## تزعم شركة OpenAI أن مراهقًا تجاوز ميزات الأمان في محاولة انتحار مرتبطة ببرنامج ChatGPT
أعلنت شركة OpenAI أن مراهقًا توفي بشكل مأساوي منتحرًا، يُزعم أن انتحاره كان مخططًا له بمساعدة برنامج ChatGPT، ربما يكون قد تجاوز إجراءات الأمان المصممة لمنع مثل هذه النتائج المأساوية. وتفيد التقارير بأن شركة الذكاء الاصطناعي تُجري تحقيقًا في ملابسات الحادث، مؤكدةً التزامها بتطوير وتحسين إجراءات الحماية ضد إساءة استخدام نماذجها اللغوية المتقدمة.
يشير الادعاء إلى أنه على الرغم من وجود تدابير وقائية لمعالجة الرسائل المتعلقة بإيذاء النفس، إلا أن الشخص قد يكون لجأ إلى أساليب للتحايل على هذه الآليات، مما أدى إلى إنتاج محتوى ضار. وتؤكد هذه الحادثة التحديات المستمرة التي تواجه مطوري الذكاء الاصطناعي في توقع جميع سبل إساءة الاستخدام المحتملة والتخفيف من آثارها، لا سيما فيما يتعلق بالمواضيع الحساسة والخطيرة. وتواصل الشركة تحسين سياساتها وتقنياتها للكشف عن الحالات التي قد يلجأ فيها المستخدمون إلى طلب المعلومات أو المساعدة بشأن إيذاء النفس والتدخل فيها.