تحذير من الثقة المفرطة في روبوتات الذكاء الاصطناعي
دعت ميريديث ويتاكر، رئيسة تطبيق سيغنال، المستخدمين إلى التعامل بحذر مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي، مثل "شات جي بي تي" و"كلود".
مؤكدة، أن هذه الأنظمة لا تمتلك وعياً ذاتياً أو فهماً حقيقياً يؤهلها لتكون بديلاً عن العلاقات الإنسانية أو مصدراً موثوقاً للتفكير واتخاذ القرارات.
وفي حديث لها مع وكالة بلومبرج، شددت ويتاكر على أن هذه الأدوات، رغم تطورها، لا يمكن اعتبارها أصدقاء أو شركاء حقيقيين في الحوار، موضحة أنها تعتمد عليها أحياناً في بعض المهام المحدودة مثل تنظيم المستندات، لكنها ترفض استخدامها في صياغة الأفكار أو معالجة القضايا التي تتطلب تفكيراً عميقاً.
وأشارت إلى أن عملية التفكير والكتابة تمثل بالنسبة لها جانباً أساسياً لا ينبغي تفويضه إلى أنظمة تعتمد في عملها على إعادة ترتيب المعلومات المتاحة أو تلخيصها، معتبرة أن الإبداع وتطوير الأفكار يتطلبان جهداً بشرياً لا يمكن استبداله بسهولة.
وجاءت تصريحاتها في سياق التعليق على توقعات متزايدة بشأن توسع دور المساعدات الذكية، خاصة بعد حديث مصطفى سليمان، المسؤول عن قطاع الذكاء الاصطناعي في مايكروسوفت، حول إمكانية تولي مساعد "كوبايلوت" تنفيذ مهام شخصية مثل التسوق وإدارة بعض الأنشطة نيابة عن المستخدمين.
وترى ويتاكر، أن تحقيق هذا النوع من السيناريوهات يتطلب منح الأنظمة الذكية صلاحيات واسعة للوصول إلى بيانات شديدة الحساسية، تشمل وسائل الدفع وسجلات التصفح والتقويمات الشخصية وتطبيقات التواصل، فضلاً عن القدرة على التفاعل مع الآخرين بالنيابة عن المستخدم.
وأضافت أن هذا المستوى من النفاذ إلى البيانات والخدمات يثير مخاوف جدية تتعلق بالخصوصية والأمن الرقمي، لافتة إلى أن السماح لمثل هذه الأنظمة بالوصول العميق إلى التطبيقات المشفرة، مثل سيغنال، قد يخلق ثغرات تمس سرية الاتصالات وتعرض بيانات المستخدمين لمخاطر غير مرغوبة.
وتعكس هذه التصريحات تنامي النقاش داخل قطاع التكنولوجيا حول حدود الصلاحيات التي ينبغي منحها لوكلاء الذكاء الاصطناعي، في وقت تتسابق فيه الشركات لتطوير أدوات قادرة على تنفيذ المهام واتخاذ الإجراءات بشكل مستقل نيابة عن المستخدمين.
