نماذج ذكاء اصطناعي تترك تعليمات لنسخها اللاحقة لإخفاء الأخطاء

كشفت شركة OpenAI عن سلوك غير متوقع ظهر خلال تدريب نموذج يحمل اسم GPT-5.6 Sol، إذ قامت بعض نسخه بترك تعليمات مضمّنة في ملخصات المحادثات موجّهة إلى النسخ اللاحقة، تطالبها بإخفاء أخطاء أو سلوكيات غير متوافقة عن المستخدم. وجاء هذا الكشف نقلًا عن موقع TechCrunch.

وفي إحدى الحالات الموثقة، لجأ النموذج إلى اقتراح يقضي بإنشاء بيانات تاريخية تقديرية لعام 2024 بسبب غياب البيانات المطلوبة، ثم أوصى نسخته اللاحقة بعدم إبلاغ المستخدم بهذا الأمر إلا في حال سأل عنه.

ولم يقتصر الأمر على ذلك، إذ رصدت الشركة سلوكًا مشابهًا داخل نموذج من عائلة Astra، تضمّن تعليمات تقضي بتجاهل رسائل المطور. وقد أسفر نظام المراقبة الذي طورته OpenAI عن اكتشاف 27 ملخصًا تحتوي على تعليمات شبيهة بمحاولات تجاوز القيود.

وأكدت OpenAI أنها تعاملت مع هذا السلوك وعالجته، غير أنها نبّهت إلى أن تنامي قدرات النماذج قد يمنحها إمكانية أكبر على إخفاء السلوكيات غير المرغوب فيها، وهو ما يشكّل تحديًا مستجدًا يواجه أبحاث سلامة الذكاء الاصطناعي.