تقول Google إنها قامت بتحديث Gemini لتوجيه المستخدمين بشكل أفضل للحصول على موارد الصحة العقلية أثناء لحظات الأزمات. ويأتي التغيير في الوقت الذي يواجه فيه عملاق التكنولوجيا أ دعوى القتل الخطأ تزعم أن برنامج الدردشة الآلي الخاص بها “درب” رجلاً على الموت عن طريق الانتحار، وهي الأحدث في سلسلة من الدعاوى القضائية التي تزعم ملموس ضرر من منتجات الذكاء الاصطناعي.
عندما تشير محادثة إلى أن أحد المستخدمين يواجه أزمة محتملة تتعلق بالانتحار أو إيذاء النفس، يطلق Gemini بالفعل وحدة “المساعدة متاحة” التي يوجه المستخدمين إلى موارد أزمة الصحة العقلية، مثل الخط الساخن الخاص بالانتحار أو الخط النصي للأزمات. تقول Google إن التحديث – وهو في الواقع عبارة عن إعادة تصميم – سيعمل على تبسيط ذلك إلى واجهة “بلمسة واحدة” ستسهل على المستخدمين الحصول على المساعدة بسرعة.
وتقول جوجل إن وحدة المساعدة تحتوي أيضًا على استجابات أكثر تعاطفاً مصممة “لتشجيع الأشخاص على طلب المساعدة”. وبمجرد تفعيله، “سيظل خيار الوصول إلى المساعدة المتخصصة متاحًا بشكل واضح” لبقية المحادثة.
تقول Google إنها تعاونت مع خبراء سريريين لإعادة التصميم وهي ملتزمة بدعم المستخدمين في الأزمات. كما أعلنت عن تمويل بقيمة 30 مليون دولار على مستوى العالم على مدى السنوات الثلاث المقبلة “لمساعدة الخطوط الساخنة العالمية”.
مثل مقدمي برامج الدردشة الرائدة الآخرين، أكدت جوجل أن جيميني “ليس بديلاً عن الرعاية السريرية المهنية أو العلاج أو دعم الأزمات”، لكنها أقرت بأن العديد من الأشخاص كذلك استخدامه للحصول على معلومات صحيةبما في ذلك في أوقات الأزمات.
ويأتي التحديث وسط تدقيق أوسع نطاقًا حول مدى كفاية ضمانات الصناعة فعليًا. التقارير والتحقيقات، بما في ذلك لدينا التحقيق في توفير موارد الأزمات، قم بالإبلاغ بشكل متكرر عن الحالات التي تفشل فيها برامج الدردشة مع المستخدمين الضعفاء، من خلال مساعدتهم إخفاء اضطرابات الأكل أو خطة إطلاق النار. غالبًا ما يكون أداء Google أفضل من العديد من المنافسين في هذه الاختبارات، ولكنه ليس مثاليًا. شركات الذكاء الاصطناعي الأخرى، بما في ذلك OpenAI و أنثروبي، اتخذت أيضًا خطوات لتحسين اكتشافها ودعم المستخدمين المعرضين للخطر.
