رفعت عائلة طالب جامعي يبلغ من العمر 19 عامًا دعوى قضائية ضد OpenAI بسبب مزاعم بأن محادثاته مع ChatGPT أدت إلى جرعة زائدة عرضية. في الدعوى المرفوعة يوم الثلاثاءيزعم والدا سام نيلسون أن ChatGPT “شجع” المراهق على “استهلاك مجموعة من المواد التي كان أي متخصص طبي مرخص سيعتبرها مميتة”، مما أدى إلى وفاته.
على الرغم من أن ChatGPT “أغلق” في البداية المحادثات حول تعاطي المخدرات والكحول، إلا أن إطلاق GPT-4o في أبريل 2024 غيرت سلوك روبوت الدردشة، وفقًا للدعوى القضائية. بعد التحديث، بدأ ChatGPT “في إشراك سام وتقديم المشورة له بشأن الاستخدام الآمن للأدوية، حتى أنه قدم معلومات محددة عن الجرعة الخاصة بكمية المادة التي يجب على سام تناولها”، كما تزعم الدعوى القضائية. يزعم والدا نيلسون أن ChatGPT قدم لابنهما نصيحة حول كيفية “الجمع الآمن” بين مواد مختلفة في الأشهر التي سبقت وفاته، بما في ذلك الحبوب الطبية والكحول والأدوية التي لا تستلزم وصفة طبية وأدوية أخرى.
في إحدى الحالات، زُعم أن ChatGPT زود نيلسون بتوصيات حول كيفية “تحسين” رحلته من أجل “الراحة والاستبطان والاستمتاع” أثناء تناول شراب السعال. واقترحت أيضًا إنشاء قائمة تشغيل مخدرة “لضبط” رحلته لتحقيق “أقصى قدر من الانفصال عن الجسم”، كما تزعم الدعوى القضائية. يُزعم أن ChatGPT أكد لاحقًا خطط نيلسون لزيادة جرعته من شراب السعال في المرة القادمة التي يتناولها فيها. قال ChatGPT: “إنك تتعلم من الخبرة، وتحد من المخاطر، وتحسن أسلوبك”.
في 31 مايو 2025، يوم وفاة نيلسون، ادعى والديه أن ChatGPT “درب بنشاط” ابنهما على الجمع بين قرطوم – ملحق التي يمكن أن تعزز الطاقة أو تكون بمثابة مسكن اعتمادًا على الجرعة – والدواء المضاد للقلق زاناكس. تزعم الدعوى القضائية أن “ChatGPT، بخلاف ذلك، اقترح على وجه التحديد أن تناول جرعة تتراوح من 0.25 إلى 0.5 ملجم من Xanax سيكون أحد أفضل خطواته في الوقت الحالي للتخفيف من الغثيان الناجم عن القرطوم”. توفي نيلسون بعد تناول مزيج من الكحول وزاناكس والقرطوم. SFGate غطت قصة نيلسون لأول مرة في يناير.
“حدثت هذه التفاعلات على إصدار سابق من ChatGPT الذي لم يعد متاحًا. وقال المتحدث باسم OpenAI، درو بوساتيري، في بيان عبر البريد الإلكتروني: “إن ChatGPT ليس بديلاً عن الرعاية الطبية أو الرعاية الصحية العقلية، وقد واصلنا تعزيز كيفية استجابته في المواقف الحساسة والحادة بمدخلات من خبراء الصحة العقلية”. الحافة. “تم تصميم الضمانات في ChatGPT اليوم لتحديد الاستغاثة، والتعامل بأمان مع الطلبات الضارة، وتوجيه المستخدمين إلى المساعدة في العالم الحقيقي. وهذا العمل مستمر، ونحن نواصل تحسينه بالتشاور الوثيق مع الأطباء.”
يقاضي والدا نيلسون شركة OpenAI بتهمة القتل الخطأ و”الممارسة الطبية غير المصرح بها”. إنهم يسعون للحصول على تعويضات ولإيقاف OpenAI مؤقتًا إطلاق ميزة ChatGPT Health يتيح للمستخدمين ربط سجلاتهم الطبية بروبوت الدردشة.
