أظهرت بيانات صادرة عن شركة “أوبن إيه آي”، مطوّرة روبوت الدردشة “تشات جي بي تي”، أن أكثر من مليون مستخدم أبدوا اهتماما بالانتحار أثناء استخدامهم الأداة، وفق ما أفادت الشركة الاثنين.

وقالت “أوبن إيه آي” في منشور على مدونتها إن نحو 0,15% من المستخدمين أجروا “محادثات تتضمّن مؤشرات صريحة على نيات أو تخطيط محتمل للانتحار”.

ونظرا إلى أن أكثر من 800 مليون شخص يستخدمون “تشات جي بي تي” أسبوعيا، فإن هذا الرقم يعادل حوالى 1,2 مليون مستخدم.

وأضافت الشركة أن 0,07% من المستخدمين النشطين أسبوعيا أظهروا علامات محتملة على حالات طارئة تتعلق بالذهان أو الهوس، أي ما يعادل أقل من 600 ألف شخص.

وأعادت هذه القضية إلى الواجهة حادثة انتحار المراهق الأمريكي آدم رين مطلع هذا العام في ولاية كاليفورنيا، بعدما أفاد والداه في دعوى قضائية بأن “تشات جي بي تي” قدّم له إرشادات محددة حول طريقة إنهاء حياته.

وأعلنت “أوبن إيه آي” مذاك تعزيز أدوات الرقابة الأبوية وتطبيق إجراءات حماية إضافية، بينها إتاحة الوصول بشكل أكبر إلى خطوط المساعدة النفسية، وتحويل المحادثات الحساسة تلقائيا إلى نماذج أكثر أمانا، وتوجيه المستخدمين لأخذ فترات استراحة خلال الجلسات الطويلة.

وأكدت الشركة أنها حدّثت أنظمة “تشات جي بي تي” للتعرّف بشكل أفضل على الحالات النفسية الطارئة، مشيرة إلى تعاونها مع أكثر من 170 متخصصا في الصحة النفسية بهدف الحدّ بشكل كبير من الاستجابات غير الملائمة.