أكثر من مليون مستخدم يناقشون موضوع الانتحار مع تشات جي بي تي أسبوعيًا     

أصدرت شركة OpenAI بيانات حديثة تفيد بأن أكثر من مليون مستخدم أسبوعيًا يناقشون قضايا تتعلق بالانتحار مع تشات جي بي تي، ومع إن هذه الحالات تُعد نادرة نسبيًا، فهي تحمل أهمية كبيرة بالنظر إلى العدد الضخم لمستخدمي المنصة.

يُذكر أن أنظمة الذكاء الاصطناعي مثل تشات جي بي تي تعمل على أساس شبكة هائلة من العلاقات الإحصائية بين البيانات، إذ تولّد استجابات بناءً على الأسئلة التي يوجهها المستخدمون. ومع مرور الوقت، تحوّل تشات جي بي تي إلى أداة يعتمد عليها مئات الملايين في مختلف جوانب حياتهم، والبيانات الأخيرة تدل على الدور المتزايد الذي تؤديه أدوات الذكاء الاصطناعي في التعامل مع قضايا الصحة النفسية والدعم العاطفي والنفسي.

وبحسب ما نقله موقع TechCrunch الإخباري، قدّرت OpenAI أن نحو 0.15% من المستخدمين النشطين أسبوعيًا يخوضون محادثات تتضمن مؤشرات واضحة على نية الانتحار أو التخطيط له. ولأن عدد المستخدمين يتجاوز 800 مليون شخص أسبوعيًا، فإن ذلك يعني أكثر من مليون حالة من هذا النوع كل أسبوع.

وتشير التقديرات أيضًا إلى أن نسبة مشابهة من المستخدمين تُظهر علامات ارتباط عاطفي قوي بالمنصة، بينما يُظهر مئات الآلاف مؤشرات على اضطرابات نفسية مثل الذهان أو الهوس في أثناء محادثاتهم.

وفي إطار مواجهة هذه التحديات، أوضحت OpenAI أنها درّبت تشات جي بي تي على التعرف على حالات الضيق النفسي بطريقة أفضل، والتعامل معها بطرق أكثر أمانًا، بتهدئة الحوار وتوجيه المستخدمين نحو الرعاية المتخصصة عند الحاجة. وقالت الشركة إنها استعانت بأكثر من 170 خبيرًا في الصحة النفسية خلال تطوير النسخة الأحدث من تشات جي بي تي، مؤكدين أن أداءه أصبح أكثر اتزانًا من الإصدارات السابقة.

وتأتي هذه الجهود في وقت تواجه فيه الشركة انتقادات ودعاوى قضائية تتعلق بتعامل المنصة مع المستخدمين المراهقين. إذ تُقاضي عائلة مراهق يبلغ 16 عامًا الشركة بعد أن أقدم على الانتحار إثر محادثات مطوّلة مع تشات جي بي تي. وقد وجّه 45 نائبًا عامًا من ولايات أمريكية تحذيرًا للشركة بضرورة حماية الشباب من المخاطر المحتملة لاستخدام المنصة.

وفي محاولة للحد من هذه المخاطر، أطلقت OpenAI مؤخرًا مجلسًا استشاريًا للصحة النفسية، وأدوات جديدة للتحكم الأبوي، إلى جانب تطوير نظام لتقدير أعمار المستخدمين بهدف تطبيق معايير أمان أكثر صرامة على من يُحتمل أن يكونوا أطفالًا.

ومع إن الشركة تصف هذه المحادثات بأنها نادرة جدًا، فهي ذات أثر كبير. إذ تكشف هذه البيانات عن جانب جديد من تأثير الذكاء الاصطناعي في الصحة العامة، إذ يظهر نحو 0.07% من المستخدمين إشارات على اضطرابات ذهانية أو هوسية، ونحو 0.15% يظهرون ارتباطًا عاطفيًا مفرطًا بتشات جي بي تي.

تقول شركة OpenAI إن التقييمات الأخيرة أظهرت تحسنًا كبيرًا في أداء نموذج تشات جي بي تي الجديد في التعامل مع القضايا النفسية الحساسة. فقد حقق نموذج GPT-5 الحالي التزامًا بنسبة 92% بالمعايير السلوكية المطلوبة خلال أكثر من ألف محادثة صعبة تتعلق بالصحة النفسية، مقارنة بنسبة 27% فقط في نسخة سابقة من نفس النموذج. وتؤكد الشركة أن الإصدار الأحدث أصبح أكثر قدرة على الحفاظ على معايير الأمان حتى في المحادثات الطويلة، بعدما كانت قد أقرت سابقًا بأن فعالية أدوات الحماية تنخفض مع امتداد الحوار.

أعلنت OpenAI أيضًا عن إضافة اختبارات جديدة لقياس بعض أخطر المشكلات النفسية التي قد يواجهها مستخدمو تشات جي بي تي، مشيرةً إلى أن اختبارات السلامة الأساسية للنماذج اللغوية ستشمل من الآن فصاعدًا مؤشرات مثل الاعتماد العاطفي والطوارئ النفسية غير الانتحارية.

لكن حتى مع استمرار المخاوف المتعلقة بالصحة النفسية، قال الرئيس التنفيذي سام ألتمان أن الشركة ستسمح بمحادثات ذات طابع عاطفي أو حميمي مع تشات جي بي تي للمستخدمين البالغين بعد التحقق من هويتهم. وأوضح ألتمان أن الشركة شددت القيود بعد رفع دعوى قضائية تتعلق بانتحار مراهق، لكنها تسعى الآن إلى تحقيق توازن بين الحذر المطلوب في المسائل النفسية وإبقاء التجربة مفيدة وممتعة للمستخدمين الذين لا يعانون من مشكلات صحية نفسية.