أطلقت "Patronus AI" الناشئة أول منصة ذاتية الخدمة للكشف عما يُعرف بـ"هلوسات الذكاء الاصطناعي" ومنعها في الوقت الفعلي، وتصفها الشركة بأنها "مدقق إملائي متقدم" لأخطاء أنظمة الذكاء الاصطناعي، تهدف إلى اكتشافها قبل وصولها إلى المستخدمين.
ويقول أناند كانابان، الرئيس التنفيذي لشركة Patronus AI، إن "العديد من الشركات تواجه تحديات تشغيلية تتعلق بعيوب الذكاء الاصطناعي، تشمل الهلوسات، وثغرات أمنية، وسلوك غير متوقع".
ونقل تقرير لموقع "Venturebeat" عن دراسة أجرتها الشركة، أن النماذج الرائدة مثل GPT-4 تعيد إنتاج محتوى محمي بحقوق النشر بنسبة تصل إلى 44% عند التفاعل، فيما تفشل النماذج المتقدمة في اجتياز اختبارات السلامة الأساسية بنسبة تزيد عن 20%.
وأكد فاروق جوشي، مدير المنتجات في Patronus AI، أن تقييم النماذج، وما تقدمه من إجابات للمستخدمين لا يحمي من النتائج السلبية فقط، بل يساعد أيضاً في تحسين النماذج والمنتجات بشكل عام، مؤكداً على أهمية التحسين المستمر عوضاً عن مجرد وضع حواجز وإجراءات الأمان والسلام.(الشرق)