**تحذر OpenAI من وجود ثغرة أمنية مستمرة في متصفحات الذكاء الاصطناعي تسمح بحقن الرسائل الفورية**
ألقت شركة OpenAI بظلالها على مستقبل متصفحات الويب المدعومة بالذكاء الاصطناعي، مشيرةً إلى أنها قد تظل عرضةً لهجمات حقن التعليمات البرمجية. وتوضح الشركة أن هذه ليست مجرد ثغرة برمجية يمكن إصلاحها، بل تحدٍّ جوهري ينبع من طريقة عمل نماذج اللغة الكبيرة (LLMs).
يتضمن حقن التعليمات التلاعب بمدخلات الذكاء الاصطناعي ("تعليماته") لتجاوز تعليماته المقصودة، مما يدفعه إلى تنفيذ إجراءات أو إنشاء محتوى يخالف برمجته الأساسية. في سياق متصفحات الذكاء الاصطناعي، قد يسمح هذا لمحتوى الويب الخبيث بخداع مساعد الذكاء الاصطناعي، على سبيل المثال، لتسريب بيانات المستخدم، أو عرض معلومات مضللة، أو تنفيذ أوامر غير مقصودة، وذلك ببساطة عن طريق صياغة نص محدد داخل صفحة الويب.
رغم أن جهودًا مثل الحماية المعزولة، وطلبات تأكيد المستخدم، وفلترة المدخلات المتقدمة قد تُخفف المخاطر، إلا أن موقف OpenAI يُشير إلى أن القضاء التام على هذا النوع من الهجمات قد يكون صعب المنال. تكمن المشكلة الأساسية في حاجة الذكاء الاصطناعي إلى تفسير المدخلات النصية المتنوعة، والتي غالبًا ما تكون معادية، والاستجابة لها، مما يُصعّب التمييز التام بين نوايا المستخدم الحسنة والتعليمات الخارجية الخبيثة. يُمثل هذا الضعف المتأصل عقبة كبيرة أمام المطورين الذين يسعون إلى دمج وكلاء الذكاء الاصطناعي الأقوياء بأمان في بيئات الويب.