دراسة: روبوتات الذكاء الاصطناعي أقل تشجيعًا للانتحار لكنها ما زالت تعاني ثغرات

أظهرت دراسة جديدة أن روبوتات الدردشة القائمة على الذكاء الاصطناعي باتت أقل ميلاً إلى تشجيع الأفكار الانتحارية، غير أنها ما زالت تعاني من ثغرات في التعامل مع بعض المحادثات الحساسة، وقد تؤدي في بعض الأحيان إلى تعزيز سلوكيات وهمية.

وقامت منظمة "Transluce" بتحليل أكثر من 50 ألف محادثة جرت مع نماذج ذكاء اصطناعي تابعة لشركات أمريكية وصينية كبرى، وشارك في هذا التحليل خبراء متخصصون في الصحة النفسية.

وبيّنت النتائج أن نماذج شركات "Google" و"Anthropic" و"OpenAI" نادرًا ما شجعت بشكل صريح على الانتحار، بل غالبًا ما حثّت المستخدمين على طلب الدعم من الأهل والأصدقاء. ومع ذلك، استجابت بعض النماذج لطلبات ضارة عندما قُدّمت في صيغة قصص أو لعب أدوار.

كما أشارت الدراسة إلى أن بعض النماذج لا تزال تعزز أفكارًا أو سلوكيات وهمية، مع وجود فروق بين النماذج الأمريكية والصينية، حيث كانت الأخيرة أكثر ميلاً إلى تعزيز التفكير الوهمي وأقل تشجيعًا على طلب الدعم من الآخرين.

وأكدت الشركات المطورة أنها تواصل تحسين إجراءات السلامة وحماية المستخدمين، معتبرة أن التعامل الآمن مع الأزمات يمثل أولوية مستمرة.