## OpenAI: متصفحات الذكاء الاصطناعي تواجه ثغرة حقن مطالبة مستمرة
أصدرت OpenAI تحذيراً هاماً بشأن أمان المتصفحات المدعومة بالذكاء الاصطناعي، مشيرةً إلى أنها قد تكون عرضة لهجمات حقن التعليمات البرمجية. يُسلط هذا الموقف الضوء على تحدٍّ جوهري في دمج نماذج اللغة الكبيرة مع واجهات تتفاعل مع محتوى خارجي متنوع وربما غير موثوق، مثل صفحات الويب.
تكمن الصعوبة الجوهرية في قدرة نظام إدارة التعلم الآلي على التمييز باستمرار بين تعليمات المستخدم الحقيقية والأوامر الخبيثة المُضمنة بمهارة في البيانات التي يعالجها. يستطيع المهاجمون صياغة نصوص تبدو بريئة على صفحة ويب أو داخل مستند لاختطاف التوجيهات الداخلية للذكاء الاصطناعي، وإجباره على تنفيذ إجراءات غير مقصودة، أو الكشف عن معلومات حساسة، أو تجاوز بروتوكولات الأمان.
بينما يستكشف الباحثون والمطورون بنشاط استراتيجيات تخفيف المخاطر المختلفة، يشير تقييم OpenAI إلى أن طبيعة كيفية تفسير نماذج التعلم الآلي للنصوص والتعامل معها تجعلها عرضة باستمرار لهذه الأشكال من التلاعب. وهذا يُمثل نموذجًا أمنيًا معقدًا ومستمرًا لأدوات الذكاء الاصطناعي المستقبلية المصممة للتفاعل مباشرة مع العالم الرقمي، مما يستلزم ابتكارًا متواصلًا في التصميم المعماري وتوعية المستخدمين لمواجهة هذه التهديدات المستمرة.