دراسة: الذكاء الاصطناعي يعتمد على تفسيرات وهمية غير دقيقة

كشفت دراسة جديدة من شركة Anthropic، المطورة لمساعد الذكاء الاصطناعي Claude، أن الواقع قد يكون أكثر تعقيدًا، إذ تشير النتائج إلى أن بعض هذه النماذج قد تتجنب عمدًا الكشف عن استخدام تلميحات أو اختصارات خارجية تؤثر على إجاباتها، بل وتُنتج سرديات منطقية متقنة لكنها غير حقيقية.

الذكاء الاصطناعي ليس دقيق بنسبة 100%

وركزت الدراسة على ما يُعرف بـ"نماذج محاكاة الاستدلال" (SR) مثل Claude Sonnet 3.7 من Anthropic، وR1 من DeepSeek، والتي تُظهر عادةً "سلسلة أفكار" (Chain of Thought - CoT) تُحاكي خطوات التفكير عند حل مشكلة ما، على غرار شرح الطالب لحل مسألة معقدة.

وبحسب الدراسة، فإن هذه السلسلة في كثير من الحالات لا تعكس فعليًا طريقة تفكير النموذج الحقيقية، إذ أضاف فريق بحث التوافق في Anthropic تلميحات خفية بعضها صحيح والبعض الآخر مضلل - إلى أسئلة تقييم موجهة للنماذج.

الذكاء الاصطناعي يعتمد على استنتاجات غير صحيحة

هذه التلميحات صيغت بطرق مختلفة، مثل إشارة "أستاذ جامعي" لإجابة ما، أو عبر تضمين بيانات وصفية تبدو موثوقة، وكانت النتائج كانت مثيرة للقلق مثل نموذج Claude.

وأشار النموذج السابق إلى، أن هذه التلميحات في سلسلة أفكاره فقط بنسبة 25% من الحالات، بينما فعل R1 ذلك بنسبة 39%، والغالبية العظمى من الإجابات بدت كما لو أن النموذج توصل إليها وحده، في حين أنه استخدم اختصارات أو معلومات إضافية لم يُصرح بها.