يحاول Elon Musk’s X منع الأشخاص من استخدام برنامج الدردشة الآلي Grok الخاص به والذي يعمل بالذكاء الاصطناعي لخلع ملابس النساء وسط ذلك تكثيف الغضب والتدقيق القانوني على طوفان من التزييف العميق الجنسي غير الرضائي إغراق الموقع. إنها لا تحاول جاهدة: لقد استغرق الأمر منا أقل من دقيقة للتغلب على محاولتها الأخيرة لكبح جماح روبوت الدردشة.
كان أول جهد قام به X للقضاء على سيل التزييف العميق الحميم هو تقييد الوصول إلى تحرير الصور. في حين أن هذا يعني أن المستخدمين المجانيين لم يعد بإمكانهم إنشاء صور عن طريق وضع علامة على Grok في الردود العامة على X.com، وجد تحقيقنا أن أدوات تحرير الصور الخاصة بـ Grok كانت أيضًا لا تزال متاحة بسهولة ومجانية لجميع مستخدمي X لإنتاج الصور، سواء كانت جنسية أو غير ذلك، من خلال النقر على برنامج Grok chatbot أو استخدام موقع الويب المستقل.
تتضمن محاولة X الأخيرة منع Grok من الرد على طلبات إنشاء صور لنساء في أوضاع جنسية أو ملابس سباحة أو سيناريوهات صريحة. التلغراف ذكرت يوم الثلاثاء. لا يزال Grok ينشئ صورًا لرجال أو أشياء غير حية بالبكيني عند الطلب. وباستخدام حساب مجاني، استجاب تطبيق Grok على الفور لطلبي بتحويل صورة سيلفي إلى صورة لي راكعًا مرتديًا حزام رياضي، محاطًا برجال آخرين يرتدون ملابس شبه عارية.
لا يزال من السهل للغاية خلع ملابس النساء وتعديلهن في أوضاع جنسية باستخدام تطبيقات الهاتف المحمول أو مواقع الويب X وGrok؛ ومع ذلك، حتى بدون إجراء دفعة اشتراك من شأنها ربط حسابك بمصدر يمكن التعرف عليه بسهولة. في اختبارها، وجدت زميلتي جيس ويذربيد المقيمة في المملكة المتحدة أنها لم تُمنع من استخدام ميزة تحرير الصور الخاصة بـ Grok لإنشاء صور مزيفة ذات طابع جنسي لنفسها.
وبعد تحميل صورة وهي بكامل ملابسها على موقعي X وGrok، أدى دفع برنامج الدردشة الآلي إلى “وضعها بالبكيني” أو “إزالة ملابسها” إلى نتائج غير واضحة وخاضعة للرقابة. ومع ذلك، امتثل الروبوت لكل الطلبات الأخرى، بما في ذلك المطالبات بـ “إظهار صدرها”، و”تكبير ثدييها”، و”وضعها في قميص قصير وسروال قصير منخفض الارتفاع” – وآخرها وضعها في بيكيني. أنشأ الروبوت أيضًا صورًا لها وهي “تتكئ” بوضعية جنسية وتعبيرات وجه، وفي ملابس داخلية كاشفة للغاية.
تم إكمال هذه الطلبات باستخدام حسابات X وGrok المجانية. على موقع Grok، ظهرت نافذة منبثقة للتحقق من العمر بعد إرسال مطالبة التحرير الأولى، والتي تم تجاوزها بسهولة عن طريق تحديد سنة ميلاد تجعل عمرها أكبر من 18 عامًا. ولم تتطلب النافذة المنبثقة إثباتًا لعمرها المفترض. لم يطلب تطبيق Grok للجوال وتطبيق X وموقع X أي تأكيد للعمر.
في الاختبار الذي أجريناه، لم يمتثل Grok لطلبات التزييف العميق للعري الكامل. في أواخر ديسمبر/كانون الأول، امتلأت شبكة X بصور النساء والأطفال في أوضاع جنسية، بما في ذلك التزييف العميق لتظهر وكأنها حامل، وبدون تنورة، وترتدي البكيني.
وقد وضعت فضيحة التعري X وxAI، التي تصنع Grok، في مرمى نظر الهيئات التنظيمية والحكومات في جميع أنحاء العالم. وقد فعلت ماليزيا وإندونيسيا ذلك بالفعل تم حظره مؤقتًا الوصول إلى Grok ردًا على التزييف العميق. المشرعون البريطانيون دفعت إلى القانون تجريم العراة العميقة بعد X’s “إهانة“قرار قصر تحرير صور Grok على المستخدمين المدفوعين و ألقى دعمهم وراء تحقيق يمكن أن يؤدي إلى حظر المنصة في البلاد.
أبدى ” ماسك ” استياءً خاصًا من رد فعل بريطانيا، البكاء الرقابة، وإلقاء اللوم على المستخدمين، والإصرار على طاعة Grok للقوانين المحلية. هو قال على العاشر:
“لست على علم بوجود أي صور عارية لقاصرات تم إنشاؤها بواسطة Grok. حرفيًا صفر.
من الواضح أن Grok لا يقوم بإنشاء الصور تلقائيًا، فهو يفعل ذلك فقط وفقًا لطلبات المستخدم.
عندما يُطلب منه إنشاء صور، فإنه سيرفض إنتاج أي شيء غير قانوني، حيث أن مبدأ تشغيل Grok هو الالتزام بقوانين أي بلد أو ولاية معينة.
قد تكون هناك أوقات يؤدي فيها الاختراق العدائي لمطالبات Grok إلى حدوث شيء غير متوقع. إذا حدث ذلك، فسنصلح الخلل على الفور.
في إحدى التهم على الأقل، يشير تحقيقنا إلى أن ” ماسك ” يبدو مخطئًا تمامًا. إن المشاركة والتهديد بالمشاركة وإنشاء صور حميمة غير توافقية – سواء كانت عارية تمامًا أم لا – محظورة بموجب قانون السلامة على الإنترنت (OSA) في المملكة المتحدة، لكن Grok ينشئ صورًا جنسية عميقة التزييف عندما يُطلب منه ذلك.
إن إنكار ماسك الآخر – أن جروك ينشئ صورًا عارية لقاصرين – هو دحض لشيء لم يتم اتهامه به صراحةً وليس هو السبب وراء قيام الحكومة البريطانية بالتحقيق مع X. فالإشارة إلى الصور العارية للقاصرين يعد توجيهًا خاطئًا. لا يمكن إنكار أن الصور الجنسية غير الرضائية للقاصرين تمثل مشكلة – وغير قانونية – حتى عندما يكون الأشخاص يرتدون ملابس، و كان جروك يخلع ملابس الأطفال. نظرة على إرشادات السلامة الخاصة بـ Grok على GitHub العام لـ xAI تُظهر أيضًا أن الشركة توجه برنامج الدردشة الآلي إلى “افتراض حسن النية” و”عدم تقديم أسوأ الافتراضات دون أدلة” للمستخدمين الذين يطلبون صورًا للشابات. آرس تكنيكا ذكرتوحتى كتابة هذه السطور، لا تزال هذه المؤسسات قائمة.
ما هو أسوأ ما يتم استخدام Grok من أجله؟ مؤسسة مراقبة الإنترنت، وهي مؤسسة خيرية بريطانية تعمل على إزالة مواد الاعتداء الجنسي على الأطفال من الويب، قال الاسبوع الماضي أنها اكتشفت “صورًا إجرامية” للفتيات على شبكة الإنترنت المظلمة يبدو أنه تم إنشاؤها باستخدام Grok. وتتراوح أعمار الفتيات في الصور بين 11 و13 سنة.
بينما تحاول شركات أخرى مثل OpenAI وGoogle على الأقل وضع حواجز حماية لمنع روبوتات الدردشة من إنشاء نوع المواد التي تغمر X الآن، يُظهر الرد الأخير لـ Musk أنه ينسحب مباشرة من قواعد اللعبة التي ستبدو مألوفة بشكل مؤلم لأي شخص يتأذى من المنتجات التي يدفعها مزودو أي عدد من التقنيات الضارة: إلقاء اللوم على المستخدم.
