OpenAI تطلق "Lockdown Mode" لتعزيز حماية ChatGPT من هجمات الأوامر الخبيثة

كشفت شركة OpenAI عن ميزة أمنية جديدة تحمل اسم "Lockdown Mode"، إذ تستهدف رفع مستوى الحماية في مواجهة هجمات "Prompt Injection".

وتعتبر إحدى أكثر الأساليب شيوعًا لاستغلال نماذج الذكاء الاصطناعي عبر تضمين تعليمات خفية داخل صفحات الويب أو مصادر المحتوى المختلفة بهدف التأثير على استجابات الأنظمة أو دفعها إلى كشف بيانات حساسة.

وأوضحت الشركة، أن الميزة الجديدة صُممت للحد من مخاطر تسرب المعلومات، وذلك من خلال تقييد عدد من الوظائف التي قد تُستخدم كنقاط عبور لهذه الهجمات، بما يسهم في تعزيز أمن البيانات أثناء استخدام خدمات الذكاء الاصطناعي.

وتشمل الإجراءات التي يفرضها "Lockdown Mode" تعطيل التصفح المباشر للإنترنت والاكتفاء بالمحتوى المخزن مؤقتًا، إلى جانب منع جلب الصور وعرضها من الويب، مع الإبقاء على إمكانية إنشاء الصور. كما يتم إيقاف ميزتي "Deep Research" و"Agent Mode" عند تفعيل الوضع الأمني.

ورغم هذه القيود، شددت OpenAI على أن الميزة لا توفر حصانة كاملة ضد هجمات حقن الأوامر، إذ قد تظل التعليمات الضارة موجودة داخل المحتوى المخزن مؤقتًا أو الملفات التي يرفعها المستخدمون، وهو ما قد يؤثر في بعض الأحيان على سلوك النظام أو دقة النتائج.

وأكدت الشركة، أن الهدف الأساسي من "Lockdown Mode" يتمثل في تقليص احتمالات تسريب البيانات الحساسة بشكل غير مقصود نتيجة محاولات استغلال نماذج الذكاء الاصطناعي بواسطة أوامر مخفية.

وأضافت OpenAI، أن الميزة ليست موجهة لجميع المستخدمين، بل تستهدف بالأساس المؤسسات والأفراد الذين يتعاملون مع معلومات عالية الحساسية ويحتاجون إلى ضوابط أمنية أكثر تشددًا للحد من مخاطر تسرب البيانات.

وأشارت الشركة إلى أن طرح "Lockdown Mode" بدأ بشكل تدريجي لمشتركي خدمة ChatGPT Business ضمن فئة الخدمة الذاتية، إضافة إلى مجموعة محددة من الحسابات الشخصية المؤهلة للحصول على الميزة في المرحلة الحالية.