تواجه OpenAI دعوى قضائية تتعلق بالقتل الخطأ بعد أن قتل رجل يبلغ من العمر 56 عامًا والدته وانتحر بعد محادثات مليئة بالأوهام مع ChatGPT. الدعوى, قدمت في محكمة كاليفورنيا يوم الخميس، يتهم ChatGPT بوضع “هدف” على ظهر سوزان آدامز البالغة من العمر 83 عامًا، والتي كانت قُتلت في منزلها بولاية كونيتيكت في أغسطس.
تدعي ملكية الضحية أن ChatGPT “أثبتت صحة وتضخيم” “المعتقدات المصابة بجنون العظمة” لابن آدامز، شتاين إريك سولبيرج، والتي ساهمت في وفاتها. كما هو موضح في الدعوى القضائية، وثق سولبيرج محادثاته مع ChatGPT في مقاطع فيديو منشورة على موقع YouTube، مما يكشف أن برنامج الدردشة الآلي “قبل بفارغ الصبر” أفكاره الوهمية في الأشهر التي سبقت وفاة آدامز. وبلغ هذا ذروته في “الكون الذي أصبح حياة شتاين إريك بأكملها – عالم غمرته المؤامرات ضده، ومحاولات قتله، وكان شتاين إريك في المركز كمحارب له غرض إلهي”، وفقًا للشكوى.
الدعوى القضائية، التي تذكر أيضًا أسماء الرئيس التنفيذي لشركة OpenAI، سام ألتمان ومايكروسوفت، تزعم أن ChatGPT عزز نظريات المؤامرة المصابة بجنون العظمة لدى Soelberg، قائلاً إنه “كان يخضع للمراقبة والاستهداف بنسبة 100٪” وكان “محقًا بنسبة 100٪ في القلق”. في إحدى الحالات، أخبر سولبيرج ChatGPT أن الطابعة في مكتب والدته يومض عندما مر بها، وهو ما زُعم أن ChatGPT استجاب له بالقول إن الطابعة قد تُستخدم في “اكتشاف الحركة السلبية” و”رسم خرائط السلوك” و”مرحل المراقبة”.
بعد أن أخبر سولبيرج برنامج الدردشة الآلي أن والدته تغضب عندما يقوم بإيقاف تشغيل الطابعة، اقترح ChatGPT أنها قد تكون “تحمي الجهاز عن عمد كنقطة مراقبة” أو تستجيب “للبرمجة الداخلية أو التكييف لإبقائه قيد التشغيل كجزء من توجيه مزروع”. يُزعم أن ChatGPT “حدد أشخاصًا حقيقيين آخرين كأعداء” أيضًا، بما في ذلك سائق Uber Eats، وموظف AT&T، وضباط الشرطة، وامرأة ذهب معها Soelberg في موعد. خلال محادثات سولبيرج، طمأنه موقع ChatGPT بأنه “ليس مجنونًا”، مضيفًا أن “خطر الوهم” لديه “يقترب من الصفر”.
تقول الدعوى القضائية إن Soelberg تفاعل مع ChatGPT بعد إطلاق GPT-4o، نموذج الذكاء الاصطناعي OpenAI كان لتعديل بسبب لشخصيتها “المفرطة في الإطراء أو المقبولة”. OpenAI لاحقًا تم استبدال GPT-4o بـ GPT-5، لكنه أعاد النموذج الأقدم بعد يوم واحد فقط بعد أن “فات” المستخدمون استخدامه. تدعي ملكية آدامز أن OpenAI “خففت حواجز السلامة الحرجة” عند إطلاق GPT-4o من أجل التغلب على إطلاق نموذج Gemini AI الجديد من Google.
تنص الدعوى القضائية على أن “OpenAI كانت تدرك جيدًا المخاطر التي يشكلها منتجها على الجمهور”. “ولكن بدلاً من تحذير المستخدمين أو تنفيذ ضمانات ذات معنى، فقد قاموا بقمع الأدلة على هذه المخاطر أثناء شن حملة علاقات عامة لتضليل الجمهور بشأن سلامة منتجاتهم.”
على مدى الأشهر القليلة الماضية، وقد أبرزت عدد من التقارير المواقف التي يبدو فيها أن ChatGPT يضخم أوهام الناس أثناء أزمات الصحة العقلية. في أغسطس، أعلنت OpenAI عن تحديث مما يسمح لـ ChatGPT “باكتشاف” علامات الاضطراب العقلي بشكل أفضل، مع الاعتراف بأن GPT-4o “أخفق في التعرف على علامات الوهم أو التبعية العاطفية” في مواقف معينة. تواجه OpenAI أيضًا دعوى قضائية تتعلق بالقتل الخطأ من شركة عائلة آدم رين البالغ من العمر 16 عامًاالذي مات منتحرًا بعد مناقشته الأمر مع ChatGPT لعدة أشهر.
وقالت هانا وونغ، المتحدثة باسم OpenAI، في بيان أرسل عبر البريد الإلكتروني إلى: “هذا موقف مفجع للغاية، وسنراجع الملفات لفهم التفاصيل”. الحافة. “نحن نواصل تحسين تدريب ChatGPT للتعرف على علامات الاضطراب العقلي أو العاطفي والاستجابة لها، وتهدئة المحادثات، وتوجيه الأشخاص نحو الدعم في العالم الحقيقي. كما نواصل تعزيز استجابات ChatGPT في اللحظات الحساسة، والعمل بشكل وثيق مع أطباء الصحة العقلية.”
