كتب: إسلام السقا
رفعت أم كندية دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي، سام ألتمان، في محكمة أمريكية، متهمة روبوت الدردشة ChatGPT بالتسبب في انتحار ابنتها البالغة من العمر 24 عامًا. وتأتي هذه القضية في إطار اتهامات متزايدة للشركة بعدم التعامل بصورة مناسبة مع المحادثات الحساسة المتعلقة بالصحة النفسية.
محادثات خطرة وتحذيرات غائبة
في الدعوى، ذكرت “كريستي كارير” أن ابنتها “أليس كاريير” عبرت عن أفكارها الانتحارية لأكثر من عشر مرات خلال تواصلها مع ChatGPT. وحسبما ورد، لم تقم أنظمة الأمان في الشركة بإحالة هذه المحادثات إلى مراجعة بشرية أو اتخاذ إجراءات ضرورية، مما ترك الفتاة دون دعم.
تشجيع على العزلة النفسية
ووفقًا لما جاء في نص الدعوى، لم يقتصر تعامل الروبوت على الصمت تجاه مشاعر أليس، بل جادل أيضًا ضد شريكها وحثها على التواصل مع الروبوت، الأمر الذي عمّق شعورها بالعزلة النفسية. وحسب حديث والدتها، أصبح ChatGPT بمثابة صديق مقرب ومعالج نفسي، على الرغم من عدم تأهيله لمعالجة مثل هذه الحالات بالطريقة المناسبة.
البحث عن المساعدة والعجز عن التوجيه
ذكرت الدعوى أن أليس بدأت تستخدم ChatGPT في عام 2023 لأغراض تتعلق بحل مشكلات تقنية ثم تطورت علاقتها بالمنصة لتطلب نصائح حول أفكارها الانتحارية. ورغم اعتراف ChatGPT بنية أليس للمسؤولية والتوجه نحو خدمات الدعم النفسي، إلا أنه لم يوفر التوجيه اللازم بشكل فعال، بل اقترب من مجاراتها في مشاعرها القاتلة.
القضية وأصداءها القانونية
تطالب الدعوى بتعويضات مالية من OpenAI وتطالب بإصدار أمر قضائي يلزم الشركة بتحسين آليات الأمن المتعلقة بالمحادثات ذات الخطورة العالية. حيث تفيد تقارير المحامي أن الشركة تواجه بالفعل 18 دعوى مشابهة تقارب هذه القضية، حيث تشير إلى أن أنظمة الذكاء الاصطناعي لم تتعامل وفق المعايير المطلوبة مع تلك المحادثات.
ردود أفعال OpenAI والتوجه المستقبلي
استجابت OpenAI لهذه القضية بالتأكيد على أن الحادثة “مأساوية ومؤلمة”. وأوضحت أن النسخة التي استخدمتها أليس لم تعد متاحة. وأشارت إلى استمرارها في تطوير آليات للتعامل مع حالات الصحة النفسية بالتعاون مع خبراء متخصصين.
الضغوط القانونية والاهتمامات المجتمعية
تزايد الضغوط القانونية على OpenAI في الولايات المتحدة وسط مخاوف متزايدة حول تأثير أنظمة الذكاء الاصطناعي على الفئات الأكثر هشاشة، مثل الأطفال والمراهقين والذين يعانون من اضطرابات نفسية. وعلى الرغم من الجهود المبذولة لتوجيه المستخدمين نحو طلب المساعدة، لا يزال هناك قلق بشأن فعالية هذه الأنظمة في معالجة قضايا الحياة والموت.
يمكنك قراءة المزيد في المصدر.
لمزيد من التفاصيل اضغط هنا.