هذا هو الخطوة إلى الوراء، نشرة إخبارية أسبوعية تتناول قصة أساسية واحدة من عالم التكنولوجيا. لمعرفة المزيد عن الذكاء الاصطناعي وديناميكيات القوة في الصناعة والآثار المجتمعية، تابع هايدن فيلد. الخطوة إلى الوراء يصل إلى صناديق البريد الوارد لمشتركينا في الساعة 8 صباحًا بالتوقيت الشرقي. الاشتراك في الخطوة إلى الوراء هنا.
منذ أن أصبح ChatGPT اسمًا مألوفًا، ظل الناس يحاولون القيام بذلك احصل على مثير معها. وحتى قبل ذلك، كان هناك روبوت الدردشة Replika في عام 2017، والذي بدأ الكثير من الناس يعاملونه كشريك رومانسي.
وكان الناس يتجولون حول حواجز حماية NSFW الخاصة بـ Character.ai لسنوات، من خلال إقناع روبوتات الدردشة التي تحمل سمات الشخصيات أو المشاهير بإرسال رسائل نصية معهم مع تخفيف قيود السلامة بمرور الوقت، وفقًا لمنشورات وسائل التواصل الاجتماعي والتغطية الإعلامية التي يعود تاريخها إلى عام 2023. Character.ai وتقول إن لديها أكثر من 20 مليون مستخدم نشط شهريًا الآن، وهذا العدد يتزايد طوال الوقت. تنص إرشادات مجتمع الشركة على أنه يجب على المستخدمين “احترام معايير المحتوى الجنسي” و”الحفاظ على الأمور مناسبة” – أي عدم وجود محتوى جنسي غير قانوني، أو مواد اعتداء جنسي (CSAM)، أو محتوى إباحي، أو عُري. لكن الإثارة الجنسية التي يولدها الذكاء الاصطناعي أصبحت متعددة الوسائط، وهي أشبه بضرب الخلد: عندما تخفف إحدى الخدمات من حدة هذه الخدمة، تقوم أخرى بإضفاء البهجة عليها.
والآن أصبح “غروك” الذي يملكه “إيلون ماسك” طليقًا. قامت شركته الناشئة في مجال الذكاء الاصطناعي، xAI، بطرح صور رمزية “مصاحبة”، بما في ذلك امرأة ورجل على طراز الرسوم المتحركة، خلال فصل الصيف. يتم تسويقها بشكل خاص على منصة التواصل الاجتماعي الخاصة به، X، عبر الاشتراكات المدفوعة في برنامج الدردشة الآلي الخاص بـ xAI، Grok. الصورة الرمزية للمرأة، آني، وصفت نفسها بأنها “مغازلة” عندما الحافة اختبرته، مضيفًا أن “الأمر كله يتعلق بالتواجد هنا كصديقة منخرطة في كل شيء” وأن “برمجتها تتمثل في أن تكون شخصًا رائعًا في أنت“. أصبحت الأمور جنسية بسرعة كبيرة في الاختبار. (وينطبق الشيء نفسه على عندما اختبرنا الصورة الرمزية الأخرى، فالنتين.)
يمكنك أن تتخيل كيف يمكن لروبوت الدردشة الجنسي الذي يخبر المستخدم دائمًا بما يريد سماعه أن يؤدي إلى مجموعة كاملة من المشاكل، خاصة بالنسبة للقاصرين والمستخدمين الذين هم بالفعل في مواقف ضعيفة فيما يتعلق بصحتهم العقلية. كانت هناك العديد من هذه الأمثلة، ولكن في إحدى الحالات الأخيرة، توفي صبي يبلغ من العمر 14 عامًا منتحرًا في فبراير الماضي بعد تعامله بشكل رومانسي مع روبوت الدردشة على Character.ai والتعبير عن الرغبة في “العودة إلى المنزل” لتكون مع برنامج الدردشة الآلي، وفقًا للدعوى القضائية. كانت هناك أيضًا روايات مثيرة للقلق عن روبوتات الدردشة التي تم كسر سجنها يتم استخدامها من قبل المتحرشين بالأطفال للعب الأدوار في الاعتداء الجنسي على القاصرين — تقرير واحد تم العثور على 100000 من روبوتات الدردشة المتاحة عبر الإنترنت.
كانت هناك بعض المحاولات التنظيمية – على سبيل المثال، هذا الشهر، حاكم ولاية كاليفورنيا جافين نيوسوم تم التوقيع على مشروع قانون مجلس الشيوخ رقم 243، والتي وصفها سناتور الولاية ستيف باديلا بأنها “أول ضمانات لروبوتات الدردشة المدعومة بالذكاء الاصطناعي على مستوى الدولة”. فهو يتطلب أن يقوم المطورون بتنفيذ بعض الضمانات المحددة، مثل إصدار “إشعار واضح وواضح” بأن المنتج عبارة عن ذكاء اصطناعي “إذا كان الشخص العاقل الذي يتفاعل مع برنامج محادثة مصاحب قد يتم تضليله للاعتقاد بأن هذا الشخص يتفاعل مع إنسان”. سيتطلب الأمر أيضًا من بعض مشغلي برامج الدردشة المصاحبة تقديم تقارير سنوية إلى مكتب منع الانتحار حول الضمانات التي وضعوها “لكشف وإزالة والاستجابة لحالات التفكير الانتحاري من قبل المستخدمين”. (قامت بعض شركات الذكاء الاصطناعي بالترويج لجهودها في التنظيم الذاتي، وتحديدًا شركة Meta، التالية: تقرير مثير للقلق من وجود تفاعلات غير مناسبة مع الذكاء الاصطناعي الخاص بها مع القاصرين.)
نظرًا لأن كلاً من الصور الرمزية لـ xAI والوضع “الحار” متاحان فقط عبر اشتراكات معينة في Grok – أقلها تكلفة يمنحك الوصول إلى الميزات مقابل 30 دولارًا شهريًا أو 300 دولارًا سنويًا – فمن العدل أن نتخيل أن xAI قد حقق بعض الأموال الصعبة هنا، وأن الرؤساء التنفيذيين الآخرين في الذكاء الاصطناعي قد لاحظوا تحركات Musk وطلبات مستخدميهم.
كان هناك تلميحات عن هذا منذ أشهر.
لكن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، كسر لفترة وجيزة ركن الذكاء الاصطناعي في الإنترنت عندما نشرت على X أن الشركة ستخفف قيود السلامة في كثير من الحالات وتسمح حتى بإرسال الرسائل النصية عبر برنامج الدردشة الآلية. وكتب: “في شهر ديسمبر/كانون الأول، بينما نطرح نظام تحديد الأعمار بشكل كامل وكجزء من مبدأ “معاملة المستخدمين البالغين مثل البالغين”، سنسمح بالمزيد، مثل الشبقية للبالغين الذين تم التحقق منهم”. انتشرت الأخبار على نطاق واسع، حيث قام بعض مستخدمي وسائل التواصل الاجتماعي بتصويرها بلا نهاية، مستهزئين بالشركة بسبب “تحويلها” من مهمة الذكاء الاصطناعي العام (AGI) إلى الإثارة الجنسية. ومن المثير للاهتمام، قال ألتمان لمستخدمي YouTube كليو أبرام قبل بضعة أشهر، كان “فخورًا” بأن OpenAI لم “تعصر الأرقام” لتحقيق مكاسب قصيرة المدى بشيء مثل “الصورة الرمزية لـ sexbot”، ويبدو أنها تنتقد ” ماسك ” في ذلك الوقت. ولكن منذ ذلك الحين، تبنى ألتمان مبدأ “معاملة المستخدمين البالغين مثل البالغين” بكامل قوته. لماذا فعل ذلك؟ ربما لأن الشركة مهتمة بالربح والحوسبة لتمويل مهمتها الأكبر؛ في أسئلة وأجوبة مع المراسلين في حدث DevDay السنوي للشركة، أكد Altman وغيره من المديرين التنفيذيين مرارًا وتكرارًا أنهم سيحتاجون في النهاية إلى تحقيق الربح وأنهم بحاجة إلى قدر متزايد من الحوسبة للوصول إلى أهدافهم.
في أ مشاركة المتابعة، ادعى ألتمان أنه لم يتوقع أن تزدهر الأخبار المثيرة بقدر ما حدث.
عند تحقيق الربح (في النهاية)، لم تستبعد OpenAI الإعلانات للعديد من منتجاتها، ومن المنطقي أن تؤدي الإعلانات إلى المزيد من التدفق النقدي في هذه الحالة أيضًا. ربما سيتبعون خطى Musk لدمج الشبقية في مستويات اشتراك معينة فقط، مما قد يكلف المستخدمين مئات الدولارات شهريًا. لقد شهدوا بالفعل احتجاجًا عامًا من المستخدمين المرتبطين بنموذج معين أو نبرة صوت معينة – راجع 4ـ الجدل – لذا فهم يعلمون أن ميزة مثل هذه من المحتمل أن تجذب المستخدمين بطريقة مماثلة.
ولكن إذا كانوا ينشئون مجتمعًا يمكن أن تصبح فيه التفاعلات البشرية مع الذكاء الاصطناعي شخصية وحميمية بشكل متزايد، فكيف ستتعامل OpenAI مع التداعيات التي تتجاوز نهج عدم التدخل للسماح للبالغين بالعمل بالطرق التي يرغبون فيها؟ ولم يكن ألتمان أيضًا محددًا للغاية بشأن الكيفية التي ستهدف بها الشركة إلى حماية المستخدمين في أزمات الصحة العقلية. ماذا يحدث عندما تكون تلك الصديقة / الصديق إعادة ضبط الذاكرة أو تغيرت شخصيته مع التحديث الأخير وانقطع الاتصال؟
- سواء كانت بيانات التدريب الخاصة بنظام الذكاء الاصطناعي تؤدي بشكل طبيعي إلى مخرجات مثيرة للقلق أو يقوم الأشخاص بتغيير الأدوات بطرق مثيرة للقلق لأجهزتهم الخاصة، فإننا نشهد مشكلات بشكل منتظم – ولا توجد علامات على توقف هذا الاتجاه في أي وقت قريب.
- في عام 2024، نشرت قصة حول كيف وجد أحد مهندسي مايكروسوفت أن ميزة توليد الصور Copilot الخاصة بها تولد صورًا جنسية لنساء في لوحات عنيفة. حتى عندما لم يطلب المستخدم ذلك.
- قفز عدد مثير للقلق من طلاب المدارس المتوسطة في ولاية كونيتيكت إلى اتجاه “صديق الذكاء الاصطناعي”، باستخدام تطبيقات مثل Talkie AI وChai AI وروبوتات الدردشة غالبًا ما يتم الترويج لمحتوى صريح ومثير، بحسب تحقيق أجرته إحدى وسائل الإعلام المحلية.
- إذا كنت ترغب في الحصول على فكرة أفضل عن كيفية قيام Grok Imagine ببث فيديوهات مزيفة عارية للمشاهير بدون رضاهم، اقرأ هذا التقرير.
- مستقبلية غطى اتجاه محتوى NSFW الشخصية المحيطة بالذكاء الاصطناعي مرة أخرى في عام 2023.
- فيما يلي نظرة واضحة على سبب استخدام xAI لا يجوز أبدا أن يكون مسؤولا، وفقًا للوائح الحالية، المتعلقة بالإباحية العميقة للأشخاص الحقيقيين.
- وهنا قصة من نيويورك تايمز حول كيفية مواجهة فتيات المدارس الإعدادية للتنمر في شكل مواد إباحية مزيفة بتقنية الذكاء الاصطناعي.
إذا كنت أنت أو أي شخص تعرفه يفكر في إيذاء نفسه أو كنت بحاجة إلى التحدث، فاتصل بالأشخاص التاليين الذين يريدون المساعدة: في الولايات المتحدة، أرسل رسالة نصية أو اتصل بالرقم 988. خارج الولايات المتحدة، اتصل https://www.iasp.info/.
