يبدأ جروك عام 2026 كما بدأ عام 2025: تحت النار بسبب الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
أمضى برنامج الدردشة الآلي الخاص بـ Elon Musk الأسبوع الماضي إغراق X بالتزييف العميق الجنسي غير التوافقي من البالغين والقاصرين. وتظهر لقطات الشاشة المتداولة امتثال جروك لطلبات وضع نساء حقيقيات في الملابس الداخلية وجعلهن ينشرن أرجلهن، ووضع الأطفال الصغار في البكيني. تصف تقارير الصور التي تمت إزالتها لاحقًا محتويات أكثر فظاعة. تم تأكيد مستخدم X واحد في محادثة مع الحافة أنهم عثروا على صور متعددة لقاصرين مع ما أطلق عليه الموجه “طلاء الدونات” على وجوههم، والتي يبدو أنها تمت إزالتها منذ ذلك الحين. في مرحلة ما، كان جروك يولّد صورة جنسية واحدة بدون رضاهم في الدقيقة، بحسب أحد التقديرات.
شروط خدمة X منع “إضفاء الطابع الجنسي على الأطفال أو استغلالهم”. ويوم السبت الشركة ذكرت المنصة “ستتخذ إجراءات ضد المحتوى غير القانوني على X، بما في ذلك مواد الاعتداء الجنسي على الأطفال (CSAM).” يبدو أنه قد أسقط بعضًا من أسوأ الجرائم. لكن بشكل عام، تم التقليل من أهمية الأحداث. المسك لديه قال أن “أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني”، لكنه أوضح من خلال منشورات X العامة أنه لا يصدق الرأي العام مطالبات خلع الملابس هي مشكلة، وقد استجاب للموضوع الأوسع مع يضحك و الرموز التعبيرية النار على X. أثار رد الشركة الفاتر قلق الخبراء الذين أمضوا سنوات في محاولة معالجة التحرش الجنسي والاعتداء الجنسي المدعوم بالذكاء الاصطناعي. لقد قامت حكومات متعددة قالوا إنهم يقومون بفحص X. ولكن حتى في ظل حملة غير مسبوقة لتنظيم الإنترنت، فإن الطريق نحو مراقبة هذه الشبكة أو إبداعات برامج الدردشة الآلية الخاصة بها ليس واضحًا.
ولم تستجب شركة xAI، منشئة Grok، لطلب التعليق. ولم تفعل Apple أو Google عندما سئلوا عما إذا كانت التقارير تنتهك سياسات متجر التطبيقات الخاصة بهم.
لقد سمح جروك بذلك دائمًا، كما فعل ماسك تشجيع علنا، صور جنسية للغاية. لكن خلال الأسبوع الماضي، انتشرت إمكانية مطالبة Grok بتحرير الصور – عبر زر جديد يسمح بالتغييرات دون إذن الملصق الأصلي – لتعرية النساء والقاصرين. لقد كان تطبيق حواجز الحماية عشوائيًا في أحسن الأحوال، ومعظم الردود المفترضة من X تأتي من Grok نفسها، مما يعني أنهم فكرت في الأساس على الفور. الردود تشمل تفيد بذلك بعض إبداعاتها كانت “تتعارض مع إرشاداتنا المتعلقة بالمحتوى الخيالي فقط”، وبناءً على طلب المستخدم، أ تم الإبلاغ عن اعتذار على نطاق واسع – شيء لا يبدو أن xAI نفسها قد أصدرته.
أحد أكبر الأسئلة هنا هو ما إذا كانت الصور تنتهك قوانين مكافحة الاعتداء الجنسي على الأطفال والصور الحميمية غير التوافقية (NCII) للبالغين، خاصة في الولايات المتحدة، حيث يقع المقر الرئيسي لشركة X. وزارة العدل الأمريكية يحظر “الصور الرقمية أو المولدة بالكمبيوتر والتي لا يمكن تمييزها عن صور قاصر فعلية” والتي تتضمن نشاطًا جنسيًا أو عُريًا إيحائيًا. ويحظر قانون Take It Down Act، الذي وقعه الرئيس دونالد ترامب ليصبح قانونًا في مايو 2025، “التصوير المرئي الحميم” الناتج عن الذكاء الاصطناعي بدون موافقة، ويتطلب من منصات معينة إزالته بسرعة.
وصف المشاهير وأصحاب النفوذ الشعور بالانتهاك من خلال الصور الجنسية التي أنشأها الذكاء الاصطناعي؛ وفقًا للقطات الشاشة، أنتج Grok صورًا للمغني Momo من TWICE، والممثلة Millie Bobby Brown، والممثل Finn Wolfhard، وغيرهم الكثير. يتم أيضًا استخدام الصور التي تم إنشاؤها بواسطة Grok خصيصًا للهجوم النساء ذوات السلطة السياسية.
وقالت ريانا فيفيركورن، زميلة السياسات في معهد ستانفورد للذكاء الاصطناعي المتمحور حول الإنسان، إن “إنها أداة للتعبير عن كراهية النساء الكامنة التي تنتشر في كل ركن من أركان المجتمع الأمريكي ومعظم المجتمعات في جميع أنحاء العالم”. الحافة. “إنه انتهاك للخصوصية، وانتهاك للموافقة والحدود، وهو تدخلي للغاية، وهو شكل من أشكال العنف بين الجنسين في طريقه”. وربما قبل كل شيء، أصبحت الصور الفاضحة للقاصرين – بما في ذلك من خلال تطبيقات “التعري” المخصصة – مشكلة متنامية بالنسبة لإنفاذ القانون.
في يوم الاثنين، دعا اتحاد المستهلكين الأمريكي (CFA)، وهو مجموعة من مئات المنظمات غير الربحية التي تركز على المستهلك، علنًا إلى اتخاذ إجراءات على مستوى الولاية وعلى المستوى الفيدرالي ضد الذكاء الاصطناعي xAI بسبب “إنشاء وتوزيع مواد الاعتداء الجنسي على الأطفال (CSAM) وغيرها من الصور الحميمية غير التوافقية (NCII) باستخدام الذكاء الاصطناعي التوليدي”، وإرسال رسالة خطاب تم التوقيع عليه من قبل عدد قليل من المنظمات إلى لجنة التجارة الفيدرالية والمدعين العامين الأمريكيين.
وقالت ماري آن فرانكس، أستاذة الملكية الفكرية والتكنولوجيا وقانون الحقوق المدنية في كلية الحقوق بجامعة جورج واشنطن، إن تفاصيل ما يحظره القانون الأمريكي “غامضة للغاية”. “جزء مما لم أتمكن من اكتشافه أيضًا هو … ما إذا كان هذا في الواقع تجاوزًا للحدود إلى العري الفعلي والمواقف الجنسية.”
قال الخبراء إن استخدام الذكاء الاصطناعي لإنشاء صورة لقاصر يمكن التعرف عليه بالبكيني (أو ربما حتى عارٍ) – على الرغم من أنه غير أخلاقي بشكل لا لبس فيه – قد لا يكون غير قانوني بموجب قوانين CSAM الحالية في الولايات المتحدة. الحافة. ومع ذلك، فإن الصور مثل تلك التي يبدو أنها تتضمن السائل المنوي يمكن أن تنتهك قوانين CSAM الموجودة مسبقًا وقانون Take It Down Act – ويشتبه فرانكس في أن هذه ليست أسوأ الجرائم الموجودة على الإطلاق. وقال فرانكس: “يمكننا أن نتخيل أنه مهما كان ما يصيب وسائل الإعلام الرئيسية، فمن المحتمل أن يكون هناك مليون شيء أسوأ يولده الناس أيضًا… كل حافز محتمل يمكن أن تفكر فيه ربما يأتي”.
ولكن على الرغم من هذه القوانين الفيدرالية وعدد كبير من القوانين على مستوى الولايات، يقول الخبراء إنه من الصعب فرض الحظر على الصور الجنسية التي ينشئها الذكاء الاصطناعي في الوقت الحالي – بل ومن الأصعب تحديد المسؤولية التي يمكن أن تتحملها المنصات. وقال شايل نوريس، المدير التنفيذي المؤسس لمنظمة SafeBAE، وهي منظمة تعمل على إنهاء العنف الجنسي: “في نهاية المطاف، هناك قوانين متضاربة، ولا توجد سابقة قانونية” لكثير منها. الحافة.
قال جون لانجفورد، أستاذ القانون المساعد الزائر في كلية الحقوق بجامعة ييل والمستشار في منظمة حماية الديمقراطية، إن خليط حظر التزييف الجنسي العميق لا يزال يخضع لاختبارات قليلة في المحكمة. وقال لانغفورد: “كل هذا جديد نوعاً ما – لقد بدأنا للتو في تطوير السوابق القضائية بشأن ما يقع وأين”. ولكن هناك بعض المقاييس، على الأقل: بالنسبة لإبداعات جروك يفعل وقال درو ديفيس، مدير المبادرات الإستراتيجية في SafeBAE، إنه يصور قاصرين يمكن التعرف عليهم، لدينا الآن “سابقة (أن) أي صورة يتم إنشاؤها بواسطة الكمبيوتر لطفل حقيقي تكون صريحة جنسيًا تعتبر غير قانونية”.
وقال فيفيركورن إن هناك عددًا قليلًا من الملاحقات القضائية الفيدرالية الحالية لإنشاء أو حيازة صور معدلة بالذكاء الاصطناعي لأطفال حقيقيين، وعشرات منها على مستوى الولاية. وقال فيفيركورن: “عندما يتعلق الأمر بما إذا كانت الشركات نفسها مسؤولة، أعتقد أن هذا هو ما وصلنا إليه في منطقة مجهولة”.
وأضاف ديفيس أننا “نتعامل مع مشهد قانوني معقد عندما يتعلق الأمر بالصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي للقاصرين”. ويرجع ذلك جزئيًا إلى أن فترة السماح لجزء “الإزالة” من قانون إزالة المحتوى، والتي يجب على المنصات بموجبها الاستجابة لمثل هذا المحتوى، تستمر حتى شهر مايو.
كما أن القسم 230 يحمي الشركات منذ فترة طويلة من المسؤولية عن المحتوى الذي ينشره أشخاص آخرون. ولكن مع تحول الشركات إلى الروبوتات مثل Grok للسماح للمستخدمين بإنشاء صورهم الخاصة، فمن غير الواضح ما هي المسؤولية التي يتحملونها. قال فرانكس: “لهذا السبب أنا مهتم جدًا بمعرفة ما إذا كان سيكون هناك… ملاحقة قضائية إبداعية هنا”، مضيفًا: “يتعلق الأمر بما إذا كانوا، بحكم إنشاء هذه الصور، قد انتهكوا الحكم الجنائي أم لا”.
التحذير، كما قال العديد من الخبراء الحافة، هو أن جميع القوانين الجنائية تقريبًا تنص على أنه يتعين على الجاني نشر المحتوى مع علمه بأنه سيسبب ضررًا. قال لانجفورد من جامعة ييل لو إن هذا الجزء يقدم “أسئلة صعبة حقًا حول ما إذا كان بإمكانك تحميل Grok أو xAI المسؤولية”. ولكن، كما يقول آخرون، تُنسب الشخصية إلى الشركات في مواقف أخرى – فلماذا لا تُنسب إلى هذه الحالة؟ كما توفر منشورات ” ماسك ” المتكررة وغير المفلترة شكلًا غير عادي من البصيرة.
وتعتقد فيفيركورن أن هذا سيكون “عامًا محوريًا فيما يتعلق بمكافحة هذه المشكلة”، وقالت إنها لن تتفاجأ إذا ظهرت دعاوى قضائية جماعية.
ولكن ما يزيد الأمور تعقيدًا هو أن Musk وX لديهما علاقات وثيقة مع الإدارة الحالية – كانت إدارة الكفاءة الحكومية (DOGE) التابعة لـ Musk تعمل في وقت ما داخل لجنة التجارة الفيدرالية نفسها، وهي الوكالة المكلفة بتطبيق قانون Take It Down Act. وخارج الولايات المتحدة، فعلت إدارة ترامب ذلك محادثات التجارة المستخدمة لثني الدول الأخرى عن تنظيم منصات الإنترنت الأمريكية. يتمتع ماسك وترامب بعلاقات جيدة علنًا، ومن المحتمل أن تواجه أي دولة تحاول معاقبة X غضب الإدارة، بالإضافة إلى عدم امتثال X المحتمل.
ومع ذلك، هناك رد فعل دولي عنيف آخذ في التزايد. وقال أعضاء في الحكومة الفرنسية إنهم سيفعلون ذلك التحقيق في الأمر. وزارة تكنولوجيا المعلومات الهندية أمر يجب على شركة xAI تقديم تقرير حول كيفية منع المزيد من المواد “الفاحشة، أو الإباحية، أو المبتذلة، أو غير اللائقة، أو الجنسية الصريحة، أو الميل إلى الأطفال، أو المحظورة بأي شكل آخر بموجب القانون”. ولجنة الاتصالات والوسائط المتعددة التابعة للحكومة الماليزية قال لقد “أحاطت علماً بقلق بالغ” بالشكاوى المتعلقة بإساءة استخدام الذكاء الاصطناعي على X، ولا سيما “التلاعب الرقمي بصور النساء والقاصرين لإنتاج محتوى غير لائق أو مسيء للغاية أو ضار بأي شكل آخر”.
لقد خرج جروك باستمرار عن القضبان بطرق غريبة أحيانًا وجنسية في كثير من الأحيان انهيار معادي للسامية للسماح للأشخاص بإنشاء صور عارية جزئيًا لـ تايلور سويفت. وقد أعرب خبراء خارجيون عن مخاوفهم بشأن ذلك جهود السلامة المفاجئة – بعد إصدار Grok 4 في يوليو 2025، استغرق الأمر أكثر من شهر حتى تصدر الشركة بطاقة نموذجية توضح أشياء مثل ميزات الأمان ونتائج الاختبار، والتي يُنظر إليها عادةً على أنها الحد الأدنى في الصناعة.
وبدون ضغوط خارجية، يبدو من غير المرجح أن تنتهي مشكلة التزييف العميق التي يعاني منها جروك في أي وقت قريب. يبدو أن بعض الصور الأكثر فظاعة قد تم حذفها بعد وقوعها. لكن الدرابزين الأكبر حجمًا، والذي تم تفصيله في Grok 4.1 بطاقة نموذجية مع إشارة مختصرة إلى CSAM، فمن الواضح أن الأمور لا تعمل كما هو مخطط لها. وتشير تعليقات ماسك الأخيرة إلى أنه لا يرى خطأً كبيرًا في الوضع الحالي لجروك. قال فيفيركورن إن أحد أكثر الأشياء إثارة للحيرة في هذه الملحمة بأكملها، ليس إمكانية تحفيز منصة الذكاء الاصطناعي لإنشاء مواد CSAM محتملة، بل “لم نر بالضرورة، حتى الآن، الكثير من القلق بشأن ما إذا كانوا يقتربون من هذا الخط أم لا”.
