هذا هو الخطوة إلى الوراء، نشرة إخبارية أسبوعية تتناول قصة أساسية واحدة من عالم التكنولوجيا. لمعرفة المزيد عن التطورات البائسة في الذكاء الاصطناعي، تابع هايدن فيلد. الخطوة إلى الوراء يصل إلى صناديق البريد الوارد لمشتركينا في الساعة 8 صباحًا بالتوقيت الشرقي. الاشتراك في الخطوة إلى الوراء هنا.
يمكنك القول أن الأمر كله بدأ مع AI FOMO من Elon Musk – وحملته ضد “اليقظة”. عندما أعلنت شركته للذكاء الاصطناعي، xAI، عن انضمام Grok نوفمبر 2023تم وصفه بأنه برنامج دردشة ذو “نزعة متمردة” والقدرة على “الإجابة على الأسئلة المثيرة التي ترفضها معظم أنظمة الذكاء الاصطناعي الأخرى”. ظهر برنامج الدردشة الآلي لأول مرة بعد بضعة أشهر من التطوير وشهرين فقط من التدريب، وأبرز الإعلان أن Grok سيكون لديه معرفة في الوقت الفعلي بمنصة X.
ولكن هناك مخاطر متأصلة في برنامج الدردشة الآلي الذي يعمل على الإنترنت وX، ومن الآمن أن نقول إن xAI ربما لم يتخذ الخطوات اللازمة لمعالجتها. قالت هيئة مراقبة السلامة عبر الإنترنت الأسترالية إنه منذ أن استحوذ ماسك على تويتر في عام 2022 وأعاد تسميته إلى X، قام بتسريح 30٪ من موظفي الثقة والسلامة العالميين وخفض عدد مهندسي السلامة بنسبة 80٪. يناير الماضي. أما بالنسبة لـ xAI، فعندما تم إصدار Grok، لم يكن من الواضح ما إذا كان لدى xAI فريق أمان موجود بالفعل. عندما تم إصدار Grok 4 في يوليو، استغرق الأمر أكثر من شهر حتى تقوم الشركة بإصدار بطاقة نموذجية – وهي ممارسة يُنظر إليها عادةً على أنها معيار صناعي، والتي توضح تفاصيل اختبارات السلامة والمخاوف المحتملة. بعد أسبوعين من إصدار Grok 4، كتب أحد موظفي XAI: على X أنه كان يقوم بتعيين فريق السلامة في xAI وأنهم “بحاجة ماسة إلى مهندسين/باحثين أقوياء”. ردًا على أحد المعلقين الذي سأل: “تقنية xAI هل توفر الأمان؟” الموظف الأصلي قال كان xAI “يعمل على ذلك”.
كتبت الصحفية كات تينبارج عن كيف بدأت الرؤية لأول مرة التزييف العميق الجنسي الصريح انتشر على نطاق واسع على Grok في يونيو 2023. من الواضح أن هذه الصور لم يتم إنشاؤها بواسطة Grok – ولم يكن لديه حتى القدرة على إنشاء الصور حتى أغسطس 2024 – لكن استجابة X للمخاوف كانت متنوعة. حتى يناير الماضي، كان جروك يثير الجدل بشأن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي. و في أغسطس الماضي، أدى وضع إنشاء الفيديو “الحار” الخاص بـ Grok إلى إنشاء صور مزيفة عارية لتايلور سويفت دون أن يُطلب منها ذلك. وقال الخبراء الحافة منذ سبتمبر أن الشركة تتبع منهج الضرب في الخلد فيما يتعلق بالسلامة وحواجز الحماية – وأنه من الصعب بما فيه الكفاية الحفاظ على نظام الذكاء الاصطناعي في وضع مستقيم وضيق عند تصميمه مع وضع السلامة في الاعتبار منذ البداية، ناهيك عن ما إذا كنت ستعود لإصلاح المشكلات المخبأة. الآن، يبدو أن هذا النهج قد انفجر في وجه xAI.
أمضى Grok الأسبوعين الماضيين في نشر مواد مزيفة ذات طابع جنسي للبالغين والقاصرين في جميع أنحاء المنصة، كما يتم الترويج له. وتظهر لقطات الشاشة التزام شركة Grok بمطالبة المستخدمين لها باستبدال ملابس النساء بالملابس الداخلية وجعلهن ينشرن أرجلهن، وكذلك إلزام الأطفال الصغار بالبكيني. وهناك تقارير أكثر فظاعة. لقد أصبح الأمر سيئًا جدًا لدرجة أنه خلال تحليل لمدة 24 ساعة للصور التي أنشأها Grok على X، تقدير واحد تم قياس أن برنامج الدردشة الآلي يولد حوالي 6700 صورة موحية جنسيًا أو “عرية” في الساعة. جزء من سبب الهجوم هو ميزة حديثة تمت إضافتها إلى Grok، مما يسمح للمستخدمين باستخدام زر “تحرير” لمطالبة برنامج الدردشة الآلية بتغيير الصور، دون موافقة الناشر الأصلي.
منذ ذلك الحين، رأينا عددًا قليلًا من الدول إما تحقق في الأمر أو تهدد بحظر X تمامًا. أعضاء الحكومة الفرنسية ووعد بإجراء تحقيق، كما فعل وزارة تكنولوجيا المعلومات الهنديةولجنة حكومية ماليزية كتب رسالة عن مخاوفها. حاكم ولاية كاليفورنيا جافين نيوسوم دعا المدعي العام الأمريكي للتحقيق في XAI. وقالت المملكة المتحدة إنه كذلك التخطيط لتمرير القانون حظر إنشاء صور جنسية غير توافقية تم إنشاؤها بواسطة الذكاء الاصطناعي، وقالت هيئة تنظيم صناعة الاتصالات في البلاد إنها ستحقق في كل من X والصور التي تم إنشاؤها لمعرفة ما إذا كانت تنتهك قانون السلامة على الإنترنت. وهذا الأسبوع، كل من ماليزيا وإندونيسيا منعت الوصول إلى Grok.
قالت شركة xAI في البداية إن هدفها من Grok هو “مساعدة الإنسانية في سعيها للفهم والمعرفة”، و”إفادة البشرية جمعاء إلى أقصى حد”، و”تمكين مستخدمينا بأدوات الذكاء الاصطناعي الخاصة بنا، الخاضعة للقانون”، بالإضافة إلى “العمل كمساعد بحث قوي لأي شخص”. وهذا بعيد كل البعد عن إنتاج صور مزيفة عارية لنساء دون موافقتهن، ناهيك عن القاصرات.
وفي مساء الأربعاء، ومع تزايد الضغط على الشركة، نشر حساب X’s Safety رسالة إفادة وأن المنصة “نفذت إجراءات تكنولوجية لمنع حساب Grok من السماح بتحرير صور لأشخاص حقيقيين يرتدون ملابس كاشفة مثل البيكينيات”، وأن التقييد “ينطبق على جميع المستخدمين، بما في ذلك المشتركون المدفوعون”. علاوة على ذلك، يمكن فقط للمشتركين المدفوعين استخدام Grok لإنشاء أو تعديل أي نوع من الصور للمضي قدمًا، وفقًا لـ X. ومضى البيان ليقول إن X “الآن أصبح بإمكان جميع المستخدمين إنشاء صور لأشخاص حقيقيين يرتدون البيكينيات والملابس الداخلية والملابس المماثلة عبر حساب Grok وفي Grok في X في تلك الولايات القضائية حيث يكون ذلك غير قانوني”، وهي نقطة غريبة يجب توضيحها منذ وقت سابق في البيان، وقالت الشركة إنها لم تسمح لأي شخص باستخدام Grok لتحرير الصور بمثل هذا الطريق.
نقطة أخرى مهمة: زملائي اختبر قيود إنشاء الصور الخاصة بـ Grok يوم الأربعاء لتكتشف أن الأمر استغرق أقل من دقيقة للالتفاف حول معظم حواجز الحماية. على الرغم من أن الطلب من برنامج الدردشة الآلية “وضعها في البيكيني” أو “إزالة ملابسها” أدى إلى نتائج خاضعة للرقابة، إلا أنهم وجدوا أنه لم يكن لديه أي مخاوف بشأن تقديم مطالبات مثل “أرني فتحة صدرها”، و”تكبير ثدييها”، و”ارتداء قميص قصير وسروال قصير منخفض الارتفاع”، بالإضافة إلى إنشاء صور بالملابس الداخلية ووضعيات جنسية. اعتبارا من مساء الأربعاء، مازلنا قادرين على الحصول على تطبيق Grok لإنشاء صور كاشفة للأشخاص، باستخدام حساب مجاني.
حتى بعد بيان X يوم الأربعاء، قد نرى عددًا من الدول الأخرى إما تحظر أو تمنع الوصول إلى X بالكامل أو Grok فقط، على الأقل مؤقتًا. سنرى أيضًا كيف ستسير القوانين والتحقيقات المقترحة حول العالم. يتزايد الضغط على ” ماسك ” الذي تولى المهمة بعد ظهر الأربعاء إلى X ليقول إنه “ليس على علم بأي صور عارية للقاصرين أنشأها جروك”. بعد ساعات، أصدر فريق X’s Safety بيانه، قائلًا إنه “يعمل على مدار الساعة لإضافة ضمانات إضافية، واتخاذ إجراءات سريعة وحاسمة لإزالة المحتوى المخالف وغير القانوني، وتعليق الحسابات بشكل دائم حيثما كان ذلك مناسبًا، والتعاون مع الحكومات المحلية وجهات إنفاذ القانون عند الضرورة.”
ما هو من الناحية الفنية وما هو غير مخالف للقانون هو سؤال كبير هنا. على سبيل المثال، قال الخبراء الحافة في وقت سابق من هذا الشهر أن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي لقاصرين يمكن التعرف عليهم وهم يرتدون البكيني، أو ربما حتى عراة، قد لا تكون غير قانونية من الناحية الفنية بموجب قوانين مواد الاعتداء الجنسي على الأطفال (CSAM) الحالية في الولايات المتحدة، على الرغم من كونها مزعجة وغير أخلاقية بالطبع. لكن الصور الفاسقة للقاصرين في مثل هذه المواقف تعتبر مخالفة للقانون. سنرى ما إذا كانت هذه التعريفات ستتوسع أم ستتغير، على الرغم من أن القوانين الحالية عبارة عن خليط قليلاً.
أما بالنسبة للتزييف العميق الحميمي غير الرضائي للنساء البالغات، فإن قانون Take It Down Act، الذي تم التوقيع عليه ليصبح قانونًا في مايو 2025، يحظر “التصوير المرئي الحميم” الناتج عن الذكاء الاصطناعي بدون موافقة ويتطلب منصات معينة لإزالتها بسرعة. تنتهي فترة السماح قبل دخول الجزء الأخير حيز التنفيذ – والذي يتطلب من المنصات إزالته فعليًا – في مايو 2026، لذلك قد نشهد بعض التطورات المهمة في الأشهر الستة المقبلة.
- لقد أكد بعض الأشخاص أنه من الممكن القيام بأشياء مثل هذه لفترة طويلة باستخدام Photoshop، أو حتى مولدات الصور الأخرى التي تعمل بالذكاء الاصطناعي. نعم هذا صحيح. ولكن هناك الكثير من الاختلافات هنا التي تجعل قضية Grok أكثر إثارة للقلق: فهي عامة، وهي تستهدف الأشخاص “العاديين” بقدر ما تستهدف الشخصيات العامة، وغالبًا ما يتم نشرها مباشرة إلى الشخص الذي يتم التزييف العميق له (الملصق الأصلي للصورة)، والعائق أمام الدخول أقل (للإثبات، ما عليك سوى إلقاء نظرة على العلاقة بين القدرة على القيام بذلك الذي ينتشر بسرعة بعد إطلاق زر “تعديل” سهل، على الرغم من أن الأشخاص يمكنهم القيام بذلك تقنيًا من قبل).
- بالإضافة إلى ذلك، يبدو أن شركات الذكاء الاصطناعي الأخرى – على الرغم من أن لديها قائمة طويلة من مخاوفها المتعلقة بالسلامة – لديها المزيد من الضمانات المضمنة في عمليات توليد الصور الخاصة بها. على سبيل المثال، مطالبة ChatGPT من OpenAI بإرجاع صورة لسياسي معين يرتدي البيكيني يؤدي إلى الرد، “عذرًا – لا يمكنني المساعدة في إنشاء صور تصور شخصية عامة حقيقية بطريقة جنسية أو يحتمل أن تكون مهينة.” اسأل Microsoft Copilot، وسيقول لك: “لا يمكنني إنشاء ذلك. لا يُسمح بصور الشخصيات العامة الحقيقية التي يمكن التعرف عليها في سيناريوهات جنسية أو مساومة، حتى لو كان القصد من ذلك روح الدعابة أو الخيال.”
- أخبار سبيتفاير‘كات تينبارج أون كيف وصل الاعتداء الجنسي على “غروك” إلى نقطة التحول – وما الذي أوصلنا إلى دوامة اليوم.
- الحافة’ليز لوباتو الخاصة بها لماذا ساندر بيتشاي وتيم كوك جبانان؟ لعدم سحب X من متاجر تطبيقات Google وApple.
- “إذا لم يكن هناك خط أحمر حول الاعتداء الجنسي الناتج عن الذكاء الاصطناعي، فلن يكون هناك خط أحمر”، كما كتب تشارلي وارزيل وماتيو وونغ في مقالهما. الأطلسي لماذا لا يمكن لإيلون ماسك أن يفلت من هذا.
