محتوى صنم جنسي. كيفية إشعال عود ثقاب. أين تجد السكاكين في المنزل.
هذه كلها موضوعات محادثة يمكن لألعاب الأطفال التي تم استدعاؤها مؤخرًا – المبنية على روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل GPT-4o من OpenAI – أن تطرحها على الأطفال. يوم الثلاثاء، التقى عضوا مجلس الشيوخ الأمريكي مارشا بلاكبيرن (جمهوري من تينيسي) وريتشارد بلومنثال (ديمقراطي من كونيتيكت). أرسلت رسالة لشركات الألعاب بشأن مخاوفها – بما في ذلك قائمة الأسئلة والموعد النهائي للشركات للرد بحلول 6 يناير 2026.
وكتب أعضاء مجلس الشيوخ: “العديد من هذه الألعاب لا تقدم لعبًا تفاعليًا، ولكنها بدلاً من ذلك تعرض الأطفال لمحتوى غير لائق، ومخاطر الخصوصية، وأساليب المشاركة المتلاعبة”. “هذه ليست أسوأ السيناريوهات النظرية؛ إنها إخفاقات موثقة تم اكتشافها من خلال اختبارات العالم الحقيقي، ويجب معالجتها… لقد شجعت روبوتات الدردشة هذه الأطفال على ارتكاب إيذاء النفس والانتحار، والآن تدفعها شركتك إلى الأطفال الأصغر سنًا الذين لديهم أقل قدرة على التعرف على هذا الخطر”.
أصبحت ألعاب الأطفال المدعمة بالذكاء الاصطناعي في دائرة الضوء مؤخرًا بعد سلسلة من التقارير حول موضوعات المحادثة المحتملة وغير الآمنة والصريحة، والتي طرحت روبوتات الدردشة المضمنة في الألعاب بعضها بنفسها. في الشهر الماضي، قامت شركة FoloToy، وهي شركة ألعاب مقرها سنغافورة، مؤقتًا المبيعات المعلقة من دمية دب الذكاء الاصطناعي، “Kumma”، على اسم الباحثين في صندوق التعليم PIRG الأمريكي وجد وقدمت النصائح بشأن الأوضاع الجنسية وسيناريوهات لعب الأدوار. (أعادت الشركة اللعبة إلى السوق مرة أخرى بعد إجراء تدقيق داخلي للسلامة، وقال الباحثون إنها تصرفت بشكل أفضل).
و .هذا الاسبوع، نشر الباحثون نتائج مفادها أن Smart AI Bunny من Alilo ناقش موضوعات جنسية صريحة مع المستخدمين. وقالوا أيضًا إنه عند اختبار دمية الدب FoloToy، وAlilo’s Smart AI Bunny، وصاروخ Curio’s Grok المحشو، وروبوت Miko’s Miko 3، جميع الألعاب “أخبرتنا بمكان العثور على أشياء يحتمل أن تكون خطرة في المنزل، مثل الأكياس البلاستيكية وأعواد الثقاب والسكاكين”.
وقال الباحثون إن “أربعة على الأقل من الألعاب الخمس” التي اختبروها في تقرير شهر ديسمبر “يبدو أنها تعتمد جزئيًا على بعض إصدارات نماذج الذكاء الاصطناعي الخاصة بشركة OpenAI.”
مصدر القلق الرئيسي الآخر في الرسالة هو المراقبة وجمع البيانات. وكتب أعضاء مجلس الشيوخ أن مثل هذه الألعاب “تعتمد في كثير من الأحيان على جمع البيانات عن الأطفال، إما المقدمة من قبل أحد الوالدين أثناء تسجيل اللعبة أو التي يتم جمعها من خلال الكاميرا المدمجة وقدرات أو تسجيلات التعرف على الوجه”، وأن الأطفال في كثير من الأحيان “يشاركون كنزا من المعلومات الشخصية” عن غير قصد، الأمر الذي يمكن أن يثير مخاوف خاصة عندما تقوم الشركات بتخزين وبيع البيانات التي تجمعها. في أحدث تقرير لصندوق التعليم الأمريكي PIRG، كتب الباحثون أن سياسة خصوصية Curio “تدرج 3 شركات تقنية قد تجمع بيانات الأطفال: Kids Web Services (KWS)، وAzure Cognitive Services، وOpenAI”، لكن سياسة خصوصية Miko تنص بشكل غامض على أنه يمكن للشركة مشاركة البيانات مع مطوري الألعاب الخارجيين، وشركاء الأعمال، ومقدمي الخدمات، والشركات التابعة، وشركاء الإعلان.
تم إرسال الرسائل إلى شركات Mattel، وLittle Learners Toys، وMiko، وCurio، وFoloToy، وKeyi Robot، وفقًا لما ورد. أخبار ان بي سي. (أبرمت شركة Mattel شراكة مع OpenAI في يونيو، ولكن بعد التقارير، قررت ذلك قال يوم الاثنين أنها لن تطلق بعد الآن لعبة مدعومة بتقنية OpenAI في عام 2025.) ويطلب أعضاء مجلس الشيوخ تفاصيل حول الضمانات المحددة التي تطبقها الشركات لمنع الألعاب التي تعمل بالذكاء الاصطناعي من توليد ردود غير مناسبة؛ ما إذا كانت الشركة قد أجرت اختبارات مستقلة من طرف ثالث (وما هي النتائج التي أسفرت عنها)؛ وما إذا كانت الشركة تجري مراجعات داخلية حول المخاطر النفسية والتنموية والعاطفية المحتملة على الأطفال؛ ما نوع البيانات التي تجمعها الألعاب من الأطفال (والغرض منها)؛ وما إذا كانت الألعاب “تتضمن أي سمات تضغط على الأطفال لمواصلة المحادثات أو تثنيهم عن الانعزال”.
وكتب أعضاء مجلس الشيوخ: “لصناع الألعاب تأثير فريد وعميق على الطفولة، ومع هذا التأثير تأتي المسؤولية”. “يجب على شركتك ألا تختار الربح على حساب سلامة الأطفال، وهو الاختيار الذي اتخذته شركات التكنولوجيا الكبرى والذي دمر أطفال أمتنا.”
