متصفحات الذكاء الاصطناعي ##: هدف لحقن مطالبات مستمرة، تحذير من OpenAI
أشارت شركة OpenAI إلى أن المتصفحات المدعومة بالذكاء الاصطناعي قد تواجه ثغرة أمنية جوهرية ومستمرة تسمح بهجمات حقن التعليمات البرمجية. وتقترح الشركة البحثية المتخصصة في الذكاء الاصطناعي أن طبيعة هذه الأنظمة المتكاملة تجعلها عرضة للتلاعب بطبيعتها.
يتضمن حقن التعليمات البرمجية تصميم مدخلات تخدع الذكاء الاصطناعي لحمله على تجاوز تعليماته الأولية أو القيام بأفعال غير مقصودة. في سياق متصفح الذكاء الاصطناعي، قد يتجلى ذلك في موقع ويب أو برنامج نصي خبيث يتضمن توجيهات خفية تجبر الذكاء الاصطناعي على استخراج بيانات المستخدم الحساسة، أو القيام بأفعال غير مصرح بها، أو الانتقال إلى مواقع خطيرة، حتى في مواجهة أوامر المستخدم الصريحة أو بروتوكولات الأمان.
يؤكد الخبراء أن متصفحات الذكاء الاصطناعي، المصممة لتفسير طلبات المستخدمين ومحتوى الويب والتفاعل معها، تجعل التمييز بين التعليمات المشروعة والتنبيهات الخادعة تحديًا بالغ التعقيد. ورغم أن أنظمة التخفيف والكشف قادرة على الحد من المخاطر، إلا أن موقف OpenAI يشير إلى أن الدفاع الكامل والفعال ضد هذا التلاعب المتطور قد يبقى بعيد المنال، مما يشكل هاجسًا أمنيًا مستمرًا لمستخدمي ومطوري تجارب التصفح المعززة بالذكاء الاصطناعي.