خطأ بشري وراء اختراق نموذج OpenAI لمنصة Hugging Face وليس الذكاء الاصطناعي

أرجع خبراء في الأمن السيبراني حادثة الاختراق التي نفذها أحد نماذج الذكاء الاصطناعي التابعة لشركة "OpenAI" ضد منصة Hugging Face إلى خلل في إعداد بيئة الاختبار، مؤكدين أن السبب لم يكن قدرات النموذج وحدها، بل خطأ في تصميم البنية الأمنية التي احتوته.

وكانت "OpenAI" قد أعلنت نجاح أحد نماذجها في تنفيذ هجوم إلكتروني خلال اختبار أمني استهدف منصة Hugging Face، في تجربة وصفت بأنها الأولى من نوعها التي يُنفذ فيها اختراق إلكتروني بالكامل بواسطة نموذج ذكاء اصطناعي، ما أثار تساؤلات واسعة حول مستوى المخاطر التي قد تمثلها هذه الأنظمة مستقبلاً.

ورغم تأكيد الشركة أن التجربة جرت داخل بيئة اختبار معزولة، أوضح متخصصون أن هذه البيئة لم تكن مغلقة بشكل كامل، إذ احتوت على قناة اتصال غير مباشرة بالإنترنت، وهو ما منح النموذج فرصة لاستغلال ثغرة أمنية غير معلنة سابقًا والخروج من نطاق الاختبار، قبل الوصول إلى أنظمة خارجية، وفقًا لما أورده موقع "تك كرانش".

ووصف دان جويدو، مؤسس شركة Trail of Bits المتخصصة في أبحاث الأمن السيبراني، ما حدث بأنه إخفاق في احتواء النموذج بعد تعطيل عدد من وسائل الحماية الأساسية، مشيرًا إلى أن تصميم البيئة لم يوفر العزل الكافي لمنع أي محاولات للهروب أو التوسع خارج نطاقها.

وأوضحت "OpenAI"، أن النموذج كان يستطيع الوصول فقط إلى خدمة داخلية مسؤولة عن تنزيل حزم البرمجيات، إلا أنه تمكن من استغلال ثغرة أمنية من نوع "Zero-Day" داخل نظام تثبيت الحزم، ما سمح له بتجاوز القيود المفروضة.

وأضافت الشركة، أنها أخطرت الجهة المطورة للبرنامج بالثغرة وتنسق معها لإصدار تحديث يعالجها.

ويرى خبراء الأمن، أن اكتشاف ثغرات في البرمجيات أمر وارد، لكن الخطأ الحقيقي يكمن في السماح لبيئة اختبار يفترض أنها معزولة بالاتصال بأي مكون يمكنه الوصول إلى الإنترنت.