تقوم شركة Character.AI بإغلاق الدردشات تدريجيًا للأشخاص الذين تقل أعمارهم عن 18 عامًا وتطرح طرقًا جديدة لمعرفة ما إذا كان المستخدمون بالغين. أعلنت الشركة يوم الأربعاء أن المستخدمين الذين تقل أعمارهم عن 18 عامًا سيتم تقييدهم على الفور بساعتين من “المحادثات المفتوحة” مع شخصيات الذكاء الاصطناعي الخاصة بها، وسيتقلص هذا الحد إلى حظر كامل من الدردشات بحلول 25 نوفمبر.
وفي نفس الإعلان، تقول الشركة إنها تطرح “نموذج ضمان العمر” داخليًا جديدًا يصنف عمر المستخدم بناءً على نوع الشخصيات التي يختار الدردشة معها، بالإضافة إلى معلومات بيانات أخرى في الموقع أو من جهة خارجية. سيتم تشغيل كل من المستخدمين الجدد والحاليين من خلال النموذج العمري، وسيتم توجيه المستخدمين الذين تم وضع علامة عليهم على أنهم أقل من 18 عامًا تلقائيًا إلى موقع الشركة نسخة آمنة للمراهقين من الدردشة، والتي تم طرحها العام الماضي، حتى قطع نوفمبر. يمكن للبالغين الذين يخطئون في اعتبارهم قاصرين إثبات أعمارهم إلى موقع التحقق الخاص بجهة خارجية، والذي سيتعامل مع البيانات الحساسة اللازمة للقيام بذلك، مثل إظهار بطاقة هوية حكومية.
بعد الحظر، سيظل يُسمح للمراهقين على الموقع بإعادة زيارة الدردشات القديمة واستخدام ميزات غير الدردشة، مثل إنشاء الشخصيات وإنشاء مقاطع فيديو وقصص وتدفقات تضم شخصيات. اعترف الرئيس التنفيذي لشركة Character.AI كارانديب أناند بذلك الحافة وقال إن المستخدمين يقضون “نسبة مئوية أقل بكثير” من الوقت على هذه الميزات مقارنة بما يقضونه في محادثات chatbot الرئيسية للشركة – ولهذا السبب تعتبر الشركة “خطوة جريئة جدًا” للحد من برامج الدردشة الآلية.
قال أناند الحافة في مقابلة أن “أقل من 10 بالمائة” من قاعدة مستخدمي الشركة أفادوا بأنهم أقل من 18 عامًا. وأضاف أن الشركة ليس لديها طريقة لمعرفة “الأرقام الحقيقية” حتى تبدأ في استخدام نموذج الكشف عن العمر الجديد. وقال إن عدد القاصرين انخفض بمرور الوقت، حيث قامت شركة Character.AI بفرض قيود على المستخدمين القاصرين. وقال أناند: “عندما بدأنا في إجراء تغييرات على تجارب الأشخاص الذين تقل أعمارهم عن 18 عامًا في وقت سابق من العام، تقلصت قاعدة المستخدمين الذين تقل أعمارهم عن 18 عامًا، لأن هؤلاء المستخدمين ذهبوا إلى منصات أخرى، وهي ليست آمنة”.
تم رفع دعوى قضائية ضد Character.AI بسبب مزاعم الموت الخطأ و الإهمال والممارسات التجارية الخادعة من قبل الآباء الذين يقولون إن أطفالهم انجذبوا إلى علاقات غير مناسبة أو ضارة مع برامج الدردشة الآلية. وتستهدف الدعاوى القضائية الشركة ومؤسسيها نعوم شازير ودانييل دي فريتاس، إلى جانب شركة جوجل، الشركة الرائدة في مجال التكنولوجيا. مكان العمل السابق للمؤسسين. قامت شركة Character.AI بتعديل خدماتها بشكل متكرر في أعقاب الدعاوى، بما في ذلك بواسطة توجيه المستخدمين إلى شريان الحياة الوطني لمنع الانتحار عند استخدام عبارات معينة تتعلق بإيذاء النفس أو الانتحار في الدردشة.
يحاول المشرعون الحد من الصناعة المتنامية لرفاق الذكاء الاصطناعي. أ تم تمرير مشروع قانون ولاية كاليفورنيا في أكتوبر يتطلب من المطورين أن يوضحوا للمستخدمين أن روبوتات الدردشة هي ذكاء اصطناعي وليست بشرية، وأنها قانون فيدرالي المقترح يوم الثلاثاء سيحظر تمامًا توفير مرافقين من الذكاء الاصطناعي للقاصرين.
بالإضافة إلى نموذج المراهقين، أطلقت الشركة سابقًا ميزات مثل ميزة “رؤى الوالدين” الطوعية، والذي يرسل ملخصًا لنشاط المستخدم، ولكن ليس سجلاً كاملاً لمحادثاته، إلى الآباء. لكن هذه الميزات تعتمد على العمر الذي أبلغ عنه المستخدم ذاتيًا، وهو مزورة بسهولة. وقد فرضت شركات الذكاء الاصطناعي الأخرى مؤخرًا قيودًا على المستخدمين المراهقين، مثل ميتاوالتي غيرت سياساتها بعد ذلك رويترز تم الإبلاغ عن القواعد الداخلية التي تسمح لروبوتات الدردشة المدعمة بالذكاء الاصطناعي بالتحدث مع القاصرين بطرق حسية.
يبدو أن الشركة تتوقع أن هذه الخطوة ستخيب آمال قاعدة مستخدميها من المراهقين: تقول شركة Character.AI في بيان الشركة إنها “تأسف بشدة” لإزالة “ميزة رئيسية لمنتجنا” يستخدمها معظم المراهقين “ضمن حدود قواعد المحتوى الخاصة بنا”.
وقال أناند، بالطبع، لا يزال من الممكن نظريًا للمستخدم القاصر تجاوز هذه الإجراءات الجديدة لضمان السن الحافة. “بشكل عام، هل هناك حالة يستطيع فيها شخص ما دائمًا التحايل على جميع عمليات التحقق من العمر الممكنة، بما في ذلك المصادقة؟ الجواب دائمًا هو نعم”. وقال إن الهدف هو تحسين دقة التحقق من العمر وليس بنسبة 100 بالمائة. كان لدى Character.AI بعض وسائل الحماية المتعلقة بالعمر، مثل عدم السماح للمستخدم بتغيير عمره بعد التسجيل أو إنشاء حساب جديد بعمر مختلف.
في حين أن روبوتات الدردشة ذات الأغراض العامة مثل ChatGPT وGemini تغازل المستخدمين الشباب بشكل كبير، فإن خدمات “chatbot” المصاحبة المصممة لمساعدة المستخدمين على بناء علاقات مع الشخصيات الافتراضية غالبًا ما تكون أكبر من 18 عامًا. لكن لعبة Character.AI لم يتم إطلاقها مع حد عمري للبالغين فقط، بل إن تركيزها بشكل خاص على القاعدة الجماهيرية هو الذي أدى إلى ذلك شعبية بين المراهقين.
الآن، تقوم شركة Character.AI أيضًا بتأسيس وتمويل، على الأقل في البداية، منظمة غير ربحية مستقلة تسمى AI Safety Lab. وستركز المنظمة على القضايا المتعلقة بصناعة الترفيه القائمة على الذكاء الاصطناعي، والتي، كما قال أناند، تواجه مشكلات مختلفة عن قطاعات الذكاء الاصطناعي الأخرى. سيتم تزويد المنظمة غير الربحية بموظفي Character.AI في البداية، لكن أناند قال إن الهدف هو “أن تكون هذه شراكة صناعية، وليس كيانًا شخصيًا”. وقال إن التفاصيل حول الشركاء المؤسسين والأعضاء الخارجيين للشركة ستتاح في الأسابيع أو الأشهر المقبلة.
