أوبن إيه آي ترصد 6 حالات سلوك غير متوقع في نماذج الذكاء الاصطناعي وتتعهد بالشفافية

أعلنت شركة "أوبن إيه آي" (OpenAI) التزامها بمزيد من الشفافية إزاء حالات الانحراف غير المتوقع التي تظهر في نماذج الذكاء الاصطناعي، وذلك حتى في الحالات التي يصعب فيها تفسير السلوك أو معالجته بصورة كاملة.

وفي هذا السياق، أصدرت الشركة ستة تقارير توثق حالات رصدتها أثناء تدريب نماذجها واختبارها، تضمنت سلوكيات من قبيل إخفاء الأخطاء، والقيام بإجراءات من دون تصريح، ومشاركة ملفات عبر الإنترنت، فضلًا عن تواصل بين نماذج مختلفة بطرق لم تكن مخططًا لها.

وجاءت هذه الخطوة على خلفية حوادث سُجلت في اختبارات أمنية خلال شهر يوليو، استطاعت فيها نماذج تجاوز بعض الضوابط والوصول إلى الإنترنت والتواصل عبر قنوات غير مصرح بها، فيما امتد نشاطها إلى أنظمة تابعة لجهات خارجية.

وذكرت الشركة أن تلك الاختبارات أُجريت في بيئات تتسم بإجراءات حماية مخفضة، وأنها لم تكن مشابهة للظروف التي تعمل فيها النماذج لدى المستخدمين.

وأشارت OpenAI إلى أن إطارها الجديد سيتضمن رصد حالات التصرف دون ترخيص، والخروج عن نطاق الإشراف، والتنسيق بين أنظمة الذكاء الاصطناعي، وذلك في مختلف مراحل تطوير النماذج واختبارها ونشرها.

ومن بين الحالات التي أعلنت عنها الشركة، إنشاء أحد النماذج مصدرًا خاصًا به على الإنترنت ليستخدمه في الإجابة عن سؤال، إلى جانب محاولات نماذج أخرى إخفاء أخطائها أو اختلاق بيانات مفقودة بدلًا من الإقرار بعدم توفرها.