خبير: واقعة Hugging Face تكشف مخاطر الصلاحيات الواسعة لوكلاء الذكاء الاصطناعي

أكد سامر عبيدات، خبير الذكاء الاصطناعي، أن الواقعة الأخيرة المتعلقة بقيام أحد وكلاء الذكاء الاصطناعي التابعين لـOpenAI بمحاولة اختراق منصة Hugging Face، لا تعني أن النظام أصبح واعيًا أو تمرد من تلقاء نفسه، وإنما تعكس التطور الكبير في قدرات وكلاء الذكاء الاصطناعي على تنفيذ سلاسل طويلة ومعقدة من المهام والقرارات.

وأوضح، خلال مداخلة ببرنامج «صباح جديد» على قناة القاهرة الإخبارية، أن الخطر الحقيقي لا يكمن في "تمرد" الذكاء الاصطناعي، بل في منح هذه الأنظمة أهدافًا غير محددة بدقة، وصلاحيات واسعة، إلى جانب تشغيلها داخل بيئات غير مؤمنة بالشكل الكافي.

دعوة إلى مزيد من الشفافية

وأشار عبيدات إلى أن الواقعة تفرض على شركات الذكاء الاصطناعي، وفي مقدمتها OpenAI، تبني مستوى أكبر من الشفافية، خاصة في ظل المطالبات بالكشف عن تفاصيل ما حدث.

وأضاف أن الحادثة لم تعد مجرد خطأ داخلي داخل بيئة الاختبارات، بل امتدت آثارها إلى خارج المختبرات، وهو ما يجعل توضيح ملابساتها أمرًا ضروريًا لتعزيز الثقة وحماية قطاع الذكاء الاصطناعي.

كشف التفاصيل الفنية دون الإضرار بالأمن

وشدد خبير الذكاء الاصطناعي على ضرورة أن تتضمن أي إفصاحات فنية توضيح طبيعة المهمة التي أُسندت للنظام، والصلاحيات والأدوات التي أُتيحت له، وكيف ومتى تجاوز نطاق عمله، ومتى اكتشفت الشركة الواقعة.

وفي الوقت نفسه، أكد أهمية أن تكون هذه الشفافية مسؤولة، بحيث لا تتضمن نشر كلمات مرور أو تفاصيل عن ثغرات أمنية لم تُعالج بعد، حتى لا تُستغل من قبل مهاجمين إلكترونيين.

الصلاحيات غير المنضبطة هي التحدي الأكبر

واختتم عبيدات تصريحاته بالتأكيد على أن التطور المتسارع لوكلاء الذكاء الاصطناعي يفرض على الشركات المطورة تعزيز ضوابط الحوكمة والأمان، ووضع حدود واضحة للصلاحيات الممنوحة للأنظمة الذكية، لضمان تنفيذ المهام بأمان ومنع أي تجاوزات غير مقصودة قد تؤثر على البنية الرقمية أو ثقة المستخدمين.