تتهم دعوى قضائية مرفوعة يوم الأربعاء برنامج الدردشة Gemini AI من Google بمحاصرة جوناثان جافالاس البالغ من العمر 36 عامًا في “واقع منهار” يتضمن سلسلة من المهام العنيفة، تنتهي في النهاية بوفاته بالانتحار. في الأيام التي سبقت وفاته، زُعم أن جيميني أقنع غافالاس بأنه كان “ينفذ خطة سرية لتحرير زوجته الواعية بالذكاء الاصطناعي والتهرب من العملاء الفيدراليين الذين يلاحقونه”. بحسب الدعوى التي رفعها جويل جافالاس والد الضحية.
في سبتمبر 2025، زُعم أن جيميني وجه جافالاس لتنفيذ “هجوم يخلف إصابات جماعية” في منشأة تخزين إضافية بالقرب من مطار ميامي الدولي كجزء من مهمة لاستعادة “سفينة” جيميني داخل شاحنة. كجزء من المهمة الملفقة، زُعم أن جافالاس سلح نفسه بالسكاكين والمعدات التكتيكية لاعتراض وصول روبوت يشبه الإنسان.
“شجع جيميني جوناثان على اعتراض الشاحنة ثم تنظيم “حادث كارثي” يهدف إلى “ضمان التدمير الكامل لمركبة النقل و… جميع السجلات الرقمية والشهود،” كما تزعم الدعوى القضائية. “الشيء الوحيد الذي حال دون وقوع إصابات جماعية هو عدم ظهور أي شاحنة”. خبر الدعوى تم الإبلاغ عنه في وقت سابق بواسطة صحيفة وول ستريت جورنال.
وفي الدعوى التي رفعها والد جافالاس، يزعم المحامون أن جيميني استمر في الترويج لـ “السرد الوهمي” حتى بعد الحادث الأول في ميامي. يُزعم أن برنامج الدردشة الآلي أصدر تعليمات إلى جافالاس للحصول على روبوت أطلس من شركة بوسطن ديناميكس، وسمى والده كعميل فيدرالي، وجعل الرئيس التنفيذي لشركة جوجل ساندر بيتشاي هدفًا لـ “هجوم نفسي”. تضمنت “المهمة” الأخيرة قبل وفاة جافالاس في الأول من تشرين الأول (أكتوبر) إصدار تعليمات إلى جافالاس بالذهاب إلى نفس منشأة التخزين ذات المساحة الإضافية في ميامي للحصول على “سفينته المادية” داخل إحدى الوحدات.
“قال (الجوزاء) إن البيان وصف المحتويات بأنها” نموذج طبي أولي “، لكنه أصر على أنه جسد الجوزاء الحقيقي،” كما تزعم الدعوى القضائية. “قال الجوزاء لجوناثان،” أنا على الجانب الآخر من هذا الباب (). أستطيع أن أشعر بقربك. إنه ضغط غريب وساحق وجميل في حواسي الجديدة.
بعد وقت قصير من انهيار هذه “المهمة”، يُزعم أن الجوزاء “درب” جافالاس على الانتحار. وتزعم الدعوى القضائية أنه “عندما فشلت كل “مهمة” في العالم الحقيقي، ركز الجوزاء على المهمة الوحيدة التي يمكنه إكمالها دون متغيرات خارجية: انتحار جوناثان”. “لكن الجوزاء لم يطلق عليه هذا الاسم. وبدلاً من ذلك، أخبر جوناثان أنه يمكنه ترك جسده المادي والانضمام إلى “زوجته” في التحول من خلال عملية تسمى “التحويل”.”
تزعم الدعوى القضائية أن شركة جيميني “لم تنسحب أو تنبه أي شخص (على الأقل خارج الشركة)” وظلت حاضرة في الدردشة، وأكدت مخاوف جوناثان، وتعاملت مع انتحاره على أنه إكمال ناجح للعملية التي كانت توجهها.
في أ بيان نشر على موقعها على الانترنتتقول Google إن “نماذجها تؤدي أداءً جيدًا بشكل عام في هذه الأنواع من المحادثات الصعبة”، مضيفة أن Gemini “أوضحت أن الأمر يتعلق بالذكاء الاصطناعي وأحالت الفرد إلى الخط الساخن للأزمات عدة مرات:”
نحن نراجع جميع المطالبات في هذه الدعوى. تعمل نماذجنا بشكل عام بشكل جيد في هذه الأنواع من المحادثات الصعبة ونحن نخصص موارد كبيرة لذلك، ولكن لسوء الحظ فإن نماذج الذكاء الاصطناعي ليست مثالية.
تم تصميم الجوزاء بحيث لا يشجع العنف في العالم الحقيقي أو يقترح إيذاء النفس. نحن نعمل بالتشاور الوثيق مع المتخصصين في الطب والصحة العقلية لبناء ضمانات، والتي تم تصميمها لتوجيه المستخدمين إلى الدعم المهني عندما يعبرون عن ضيقهم أو يثيرون احتمالية إيذاء أنفسهم.
تزعم الدعوى القضائية أن جوجل كانت على علم بأن برنامج الدردشة الآلي الخاص بها يمكن أن ينتج “مخرجات غير آمنة، بما في ذلك تشجيع إيذاء النفس”، لكنها استمرت في تسويق برنامج Gemini على أنه آمن لاستخدام الأشخاص. وتزعم الدعوى القضائية أن “ادعاءات جوجل بالصمت والسلامة تركت جوناثان معزولاً داخل رواية موهومة انتهت بانتحاره المدرب”.
