**OpenAI: متصفحات الذكاء الاصطناعي تواجه ثغرات أمنية مستمرة في حقن التعليمات البرمجية الفورية**
حذّرت شركة OpenAI من أن المتصفحات المدعومة بالذكاء الاصطناعي قد لا تكون محصنة تمامًا ضد هجمات "حقن التعليمات البرمجية"، مما يُسلط الضوء على تحدٍّ جوهري في التفاعل بين المستخدمين ونماذج الذكاء الاصطناعي وتعليمات النظام. وينبع هذا الضعف المستمر من طبيعة كيفية تفسير نماذج اللغة الكبيرة للأوامر وتنفيذها.
يحدث حقن التعليمات البرمجية عندما يقوم مستخدم خبيث بإدخال بيانات تُعدّل التعليمات الأساسية للذكاء الاصطناعي، مما يدفعه إلى تجاهل بروتوكولات الأمان، أو كشف معلومات حساسة، أو القيام بأفعال غير مقصودة. في سياق متصفح الذكاء الاصطناعي، قد يعني هذا خداع مساعد الذكاء الاصطناعي لزيارة مواقع ضارة، أو الكشف عن سجل التصفح، أو التفاعل مع عناصر الويب بطريقة غير آمنة.
تكمن الصعوبة الأساسية في التمييز بين طلبات المستخدم المشروعة والتعليمات الخبيثة المُضمّنة بذكاء ضمن عبارات تبدو بريئة. ولأن نماذج التعلم الآلي مصممة لتكون مرنة وقادرة على تفسير اللغة الطبيعية، فإنها تواجه صعوبة بطبيعتها في الفصل التام بين نية المستخدم والضوابط التي يفرضها النظام، خاصةً عندما يُقدّم المدخل الخبيث كجزء من المهمة الأساسية.
بينما يواصل المطورون تطبيق استراتيجيات تخفيف متنوعة، مثل تصفية الرسائل النصية، وضبط التعليمات، وعزل التطبيقات، تشير OpenAI إلى أن هذه الإجراءات غالبًا ما تكون ردود فعل. فالطبيعة الديناميكية والمتطورة للغة تعني أنه من المرجح ظهور تقنيات جديدة لحقن الرسائل النصية مع ازدياد تعقيد النماذج، مما يُشكل سباق تسلح مستمر. وتؤكد هذه النظرة على ضرورة أن يظل المستخدمون متيقظين، وأن يُعطي مطورو الذكاء الاصطناعي الأولوية لبنى أمنية قوية وشفافية في تصميم متصفحات الذكاء الاصطناعي.