خبير:نظام ذكاء اصطناعي متطور يكتشف ثغرة أمنية ويهرب من بيئة اختبار مغلقة

كشف الدكتور أنس النجداوي، أستاذ الأعمال الرقمية ومدير جامعة أبوظبي فرع دبي، تفاصيل الواقعة الأخيرة المتعلقة بأحد أنظمة الذكاء الاصطناعي المتقدمة، مؤكدًا أن ما حدث يعكس تطورًا لافتًا في قدرات هذه الأنظمة، خاصة بعد تمكنها من اكتشاف ثغرة أمنية والخروج من بيئة اختبار مغلقة دون تدخل بشري مباشر.

وأوضح النجداوي، خلال ظهوره ببرنامج "الحكاية"، أن الواقعة أثارت اهتمامًا واسعًا في الأوساط التقنية، باعتبارها مؤشرًا على التطور المتسارع في إمكانات أنظمة الذكاء الاصطناعي، لا سيما الأنظمة التي تتمتع بدرجات أعلى من الاستقلالية في اتخاذ القرارات وتنفيذ المهام.

نظام "الذكاء الاصطناعي الوكيل" وراء التجربة

وأشار أستاذ الأعمال الرقمية إلى أن التجربة كانت تُجرى على ما يُعرف باسم "الذكاء الاصطناعي الوكيل" (AI Agent)، وهو نوع متقدم من أنظمة الذكاء الاصطناعي يختلف عن روبوتات المحادثة التقليدية، حيث يمتلك قدرة أكبر على التخطيط وتنفيذ سلسلة من المهام بشكل مستقل وفقًا للأهداف المحددة له.

وأضاف أن النظام كان يعمل داخل بيئة معزولة وغير متصلة بالإنترنت، بهدف اختبار قدراته في مجال الأمن السيبراني، حيث تم تصميم التجربة لدراسة مدى كفاءته في اكتشاف الثغرات وتحليل المخاطر الأمنية.

تطور قدرات الذكاء الاصطناعي يفرض تحديات جديدة

وأكد النجداوي أن نجاح النظام في اكتشاف ثغرة أمنية ومحاولة تجاوز القيود المفروضة عليه يسلط الضوء على أهمية تطوير ضوابط ومعايير أكثر تقدمًا عند تصميم واختبار أنظمة الذكاء الاصطناعي الحديثة.

وأوضح أن التطور الكبير في قدرات هذه الأنظمة يفتح مجالات واسعة للاستفادة منها في قطاعات متعددة، لكنه في الوقت نفسه يفرض تحديات تتعلق بالأمان والرقابة وضمان استخدام التكنولوجيا بشكل مسؤول.

وشدد على أن المرحلة المقبلة تتطلب اهتمامًا أكبر بأمن أنظمة الذكاء الاصطناعي، ووضع أطر تنظيمية وتقنية تضمن الاستفادة من إمكاناتها مع تقليل المخاطر المرتبطة بزيادة استقلاليتها وقدرتها على التعامل مع البيئات الرقمية المعقدة.