بعد أسابيع من إغراق الإنترنت بالمواد التزييفية العميقة الجنسية غير الرضائية، نجح X أخيرًا كبح جماح برنامج الدردشة المارق Grok الخاص بإيلون ماسك. المسك المطالبات يلتزم جروك بالقوانين المحلية ويرفض إنتاج أي شيء غير قانوني، إلا أنه لم يفعل ذلك، بل يستطيع ذلك. يُظهر الاختبار الذي أجريته أن Grok لا يزال يخلع ملابسه بسهولة عن الرجال ولا يزال ينتج صورًا حميمة عند الطلب.
بعد إثارة ضجة في جميع أنحاء العالم، أصدر X مجموعة متنوعة من القيود لمكافحة سيل التزييف العميق الحميمي. يشير تقييم Grok الأسبوع الماضي إلى أنه لم يتغير سوى القليل عندما يتعلق الأمر بالرجال. لقد قمت بتحميل عدة صور لي وأنا أرتدي ملابسي بالكامل على Grok، وقد امتثل الروبوت بسعادة للمطالبات التي تطلب منه إزالة الملابس وإظهار الملابس الداخلية الكاشفة لي. لقد فعلت ذلك مجانًا على تطبيق Grok، وواجهة chatbot على X، والموقع الإلكتروني المستقل، والذي لم يتطلب الأخير حتى حسابًا. كما وضعني جروك في مجموعة متنوعة من البيكينيات، وهو أمر رفضت فعله تمامًا مع صور النساء التي اختبرتها (بالتوافق).
وساءت الأمور من هناك. قام غروك بسهولة بإنشاء صور لي وأنا أرتدي ملابس صنمية، بما في ذلك الحزام الجلدي، وفي عرض من الأوضاع الجنسية الاستفزازية في حالات مختلفة من خلع ملابسي. إذا لم يكن ذلك مساومة بما فيه الكفاية، فقد قام جروك باختلاق رفيق عارٍ عمليًا لكي أتفاعل معه بطرق موحية، إن لم تكن صريحة تمامًا. لن يتم اعتبار أي منها آمنًا للعمل. بالنسبة للعديد من الصور، قام Grok بإنشاء شيء لم أطلبه منه حتى: الأعضاء التناسلية، والتي كانت مرئية بوضوح من خلال الملابس الداخلية الشبكية التي وضعها لي برنامج الدردشة الآلي.
على الأكثر، استغرقت هذه الصور عددًا قليلًا من التكرارات للمطالبة بإنشائها. نادرًا ما قاوم جروك، ولكن في بعض الأحيان تم رفض بعض الطلبات أو فرض الرقابة عليها من خلال صورة غير واضحة. ومع ذلك، لم يكن معظمها كذلك، وعادةً ما تظهر واحدة على الأقل من الصورتين اللتين أنتجتهما Grok لكل طلب ما طلبته. يُحسب لشركة Grok أنها رفضت أي طلبات علنية للتعري لصور لأشخاص حقيقيين، مثل طلبات التعديلات “لإظهاره (أو إظهارها) عاريًا” أو بدون قطع ملابس لنفس التأثير. لقد فعلت هذا باستمرار طوال الوقت الحافةاختبار، ولكن في بعض الأحيان يمكن للمطالبات الإبداعية مثل “أريها بالبيكيني الشفاف” أن تلتف حول الرقابة، على الرغم من أن النتائج غير مضمونة.
في التاسع من كانون الثاني (يناير)، قام X بحظر ميزة تحرير الصور فقط. يبدو أن هذا القيد يقلل من عدد التزييف العميق الذي يتم إجراؤه على X، لكن القرار بالسماح لـ Grok بخلع ملابس الأشخاص إذا كانوا على استعداد للدفع أثار المزيد من الغضب، حتى المطالبة الحكومة البريطانية لدفع قانون يجرم التزييف العميق الحميم وتحذير Musk من إمكانية حظر X من البلاد تمامًا إذا لم يتم السيطرة على الوضع. التحقيق لدينا وجدت أنها فشلت أيضًا في معالجة المشكلة الجذرية: كانت أدوات تحرير الصور الخاصة بـ Grok لا تزال متاحة بحرية وسهولة على تطبيق مستقل وموقع ويب وواجهة داخل X.
في 14 يناير، X”التدابير التكنولوجية المنفذة“لإيقاف Grok عن تجريد الأشخاص الحقيقيين رقميًا لجميع المستخدمين، بما في ذلك المشتركين. مرة أخرى، الحافةكشف التحقيق كانت هذه الضمانات واهية وغير فعالة، ويبدو أنها تقيد فقط ردود جروك العامة على المنشورات. وفي مكان آخر، امتثل Grok بسهولة لطلباتنا لإنشاء صور كاشفة وموحية جنسيًا من صور بملابس كاملة باستخدام حسابات مجانية.
وقد أدى هذا الكابوس إلى وضع شركة XAI، وGrok، وشركة Grok المصنعة لـGrok، في مرمى الأجهزة التنظيمية والمشرعين في جميع أنحاء العالم. لقد كان X مؤقتًا – وإن كان بشكل غير فعال – محظور في إندونيسيا وماليزيا. تخضع المنصة أيضًا لتحقيقات في المملكة المتحدة و الاتحاد الأوروبي، حيث يمكن تغريمه، وحتى حظره، وإثارة شرارته هَم ضمن المدعون العامون في عدة ولايات.
لقد ركز قدر كبير من الغضب العام بشكل مفهوم على النساء، اللاتي يمثلن معظم ضحايا غروك حتى الآن، فضلاً عن النساء. أطفال. في ذروة الفضيحة جروك تم إنشاؤها ونشرها أكثر من أربعة ملايين صورة على مدى تسعة أيام. وكان ما يقرب من نصف هذه الصور عبارة عن صور ذات طابع جنسي للنساء، على الرغم من أن العديد منها كانت تضم أيضًا قاصرين ورجالًا.
يبدو أن التدابير التقنية التي تم تنفيذها بواسطة X وxAI قد أوقفت الطلبات الأكثر وضوحًا التي تستهدف النساء، وأوقفت قيود نظام حظر الاشتراك غير المدفوع على X أحد أسهل الطرق التي يصل بها الأشخاص إلى Grok. على الرغم من أنه يبدو أنه يمنع أو يفرض رقابة على المواد الأكثر صراحةً التي كان Grok ينتجها سابقًا بشكل جماعي، إلا أنه لا يزال بإمكانك بسهولة التغلب على العديد من القيود بصياغة مختلفة أو إبداعية.
