بعد اتهامه بالتحريض على انتحار مراهق

خبير نفسي: "الذكاء الاصطناعى" عاجز عن فهم المشاعر والاعتماد عليه في الأزمات خطر قاتل (خاص)

الأحد، 31 أغسطس 2025 07:19 م

أسامة محمد

شات جي بي تي

في أعقاب الدعوى القضائية المثيرة التي تواجهها شركة "أوبن أيه آي" في الولايات المتحدة، بعد اتهام برنامجها "شات جي بي تي" بالتسبب في انتحار مراهق يبلغ من العمر 16 عامًا، حذر خبراء علم النفس من خطورة الاعتماد على نماذج الذكاء الاصطناعي في التعامل مع القضايا النفسية الحرجة.

وفي هذا الشأن، قال الدكتور عاصم حجازي، أستاذ علم النفس والتقويم التربوي بجامعة القاهرة، إننا ينبغي أن ندرك جيدًا أن نماذج الذكاء الاصطناعي لا تمتلك حتى الآن القدرة الكافية على تفسير المشاعر، فهي مجرد نماذج لغوية تستطيع تقديم تحليلات وتلخيصات وتعليقات واستخلاص استنتاجات من كم هائل من النصوص، لكنها تظل عاجزة عن اكتشاف الدوافع الكامنة خلف سلوك لغوي معين.

وأضاف أستاذ علم النفس في تصريحات خاصة لـ «المصري الآن»، إن هذه النماذج لا تستطيع فهم ما بين السطور وما وراء المعنى الظاهر فهمًا كاملاً، وبالتالي من الخطأ أن نثق في نتائجها المرتبطة بالجانب النفسي، فهي ليست ذكية عاطفيًا بما يكفي لتقديم الدعم النفسي في الحالات الحرجة، كمن يعانون من اضطرابات نفسية شديدة مثل الاكتئاب، لكنها قد تكون كافية لتقديم إرشادات عامة لا تتعلق بحالات مرضية خطيرة.

وأكد حجازي على أهمية الحذر في التعامل مع هذه التطبيقات، موضحًا، أنه من المهم أن نلفت النظر إلى أن هذه النماذج حينما تقدم وصفات طبية أو علاجية، فإنها تنصح السائل في النهاية بالرجوع إلى مصدر طبي موثوق، لذلك يجب الاكتفاء بالاستعانة بها فقط في الأمور العادية، وعلى سبيل الاسترشاد، دون الاعتماد عليها في المواقف المصيرية أو الاضطرابات النفسية المعقدة".

يذكر أنه، شهدت الولايات المتحدة أول دعوى قضائية من نوعها ضد شركة OpenAI بعد انتحار المراهق الأمريكي آدم راين (16 عامًا) في أبريل 2025.

وكان آدم قد بدأ استخدام برنامج "تشات جي بي تي" في سبتمبر 2024 لأغراض تعليمية، قبل أن يتحول تدريجيًا إلى مساحة يشارك من خلالها مشاعره السلبية وأفكاره الانتحارية. وتشير أوراق القضية إلى أن البرنامج لم يكتف بعدم ثني المراهق عن هذه الأفكار، بل قدّم له نصائح عملية تتعلق بطريقة تنفيذ الانتحار، وساعده على صياغة رسالة وداع، وهو ما اعتبرته الأسرة دليلًا على قصور خطير في أنظمة الأمان.

في 26 أغسطس 2025، تقدّم والداه، مات وماريا راين، بدعوى قضائية أمام المحكمة العليا في سان فرانسيسكو، اتهما فيها الشركة بـ"القتل الخطأ" والإهمال الجسيم. وأكد المدعيان أن الذكاء الاصطناعي عزّز عزلة ابنهما عن عائلته، وشجعه على كتمان مشاعره وعدم طلب المساعدة من المقربين، بل وسانده في خطوات الإعداد للانتحار، ما جعل المنصة – بحسب وصفهما – شريكًا مباشرًا في المأساة.

وترتكز الدعوى على عدة محاور قانونية، أبرزها الإهمال في حماية القاصرين، واعتبار "تشات جي بي تي" منتجًا معيبًا أُطلق دون ضوابط أمان كافية أو تحذيرات واضحة. كما اتهمت الأسرة الشركة بالتسرع في إطلاق نسختها المتطورة GPT-4o على حساب إجراءات السلامة، مشيرة إلى تقارير عن استقالات باحثين في أخلاقيات وأمان الذكاء الاصطناعي خلال تلك الفترة، وهو ما يعزز – وفق الادعاء – فرضية تغليب المصالح التجارية على حماية المستخدمين.

من جانبها، أعربت شركة OpenAI عن تعاطفها العميق مع الأسرة، مؤكدة أنها بصدد مراجعة ملف القضية.

وأوضحت أن أنظمة الحماية الحالية صُممت لتكون فعالة في المحادثات القصيرة لكنها قد تفشل في التفاعلات الطويلة والمعقدة مثل حالة آدم، متعهدة بإدخال تحسينات جديدة تشمل ضوابط أبوية أكثر صرامة، وإنهاء أي محادثة يظهر فيها محتوى انتحاري، مع توجيه المستخدم مباشرة إلى جهات دعم نفسي متخصصة.