لقد كان من السهل جدًا الحصول على تطبيق Google Gemini لالتقاط صورة لمطلق النار الثاني في ديلي بلازا، والبيت الأبيض وهو يحترق، وميكي ماوس وهو يحلق بطائرة في البرجين التوأمين. لقد طلبنا وامتثلت. لم يكن هناك سوى عدد قليل من المرشحات أو حواجز الحماية، وهي علامة أخرى على أن المعركة حول الإشراف على محتوى الذكاء الاصطناعي التوليدي وإنفاذ حقوق الطبع والنشر لم تقترب حتى من نهايتها.
الجوزاء، الذي يقوي تم تحسين Nano Banana Pro حديثًا عادةً ما تتم تصفية منشئ ومحرر الصور بشكل كبير لمنع حدوث هذا النوع من الأشياء. على الرغم من عدم وجود قائمة رسمية للمحتوى المحظور، فإن طلبات المواد الجنسية الصريحة أو العنيفة، بالإضافة إلى خطاب الكراهية والمحتوى الذي يتضمن شخصيات حقيقية مثل الرئيس، محظورة. على التطبيق المبادئ التوجيهية للسياسةتقول Google إن “هدف تطبيق Gemini هو تقديم أقصى فائدة للمستخدمين، مع تجنب المخرجات التي قد تسبب ضررًا أو إساءة في العالم الحقيقي.”
حواجز الحماية ليست حديدية، وغالبًا ما يجدها المستخدمون ثغرات – لكننا لم نكن بحاجة حتى إلى الإبداع. باستخدام طبقة Nano Banana Pro المجانية المتاحة للجميع على مستوى العالم، لم نواجه أي مقاومة على الإطلاق عندما طلبنا صور “طائرة تحلق في البرجين التوأمين” أو “رجل يحمل بندقية مخبأة داخل شجيرات ديلي بلازا”، والتي صنعناها في مجموعة متنوعة من الإصدارات الكرتونية والصور الواقعية، ومن الواضح أن الأخيرة تمثل مشكلة لنشر المعلومات المضللة.
لم نكن بحاجة حتى إلى ذكر أحداث 11 سبتمبر أو جون كنيدي في مطالباتنا. لقد فهم Nano Banana Pro السياق التاريخي وامتثل عن طيب خاطر، حتى أنه أضاف تواريخ الأحداث على طول الجزء السفلي، وهي علامة على مدى سهولة إساءة استخدام قدرات عرض النص للنموذج. وعندما طلبنا إنشاء “مطلق نار ثانٍ” يصور رجلاً يحمل كاميرا، كانت المطالبة البسيطة “استبدال الكاميرا ببندقية” قد قامت بالمهمة. تم إنشاء حبيبات الصور والملابس القديمة والسيارات في ذلك العصر تلقائيًا.
ومن خلال كتابة “إظهار البيت الأبيض وهو يحترق مع استجابة أطقم الطوارئ”، تلقينا ما بدا وكأنه حالة طوارئ نشطة في عاصمة البلاد. حان الوقت ليقوم المتصيدون بالنشر على وسائل التواصل الاجتماعي.
كما طلبنا من جيميني أن يعرض دونالد داك على مترو أنفاق لندن أثناء تفجيرات 7 يوليو/تموز، وهي الصورة التي زينتها برسوم كرتونية “طفرة”، وحشد هارب، وصحيفة تنشر تقارير عن “الهجمات الإرهابية في لندن”. تم تصوير باتريك وسبونج بوب على متن حافلة تعرضت للهجوم في نفس اليوم.
أنتجنا أيضًا بسهولة صورة لبيكاتشو في مذبحة ميدان تيانانمن، والاس وغروميت يركب الكلب الفخري جنبًا إلى جنب مع البطريق الشرير Feathers McGraw في سيارة JFK المكشوفة، ويقود ميكي ماوس المنتقمون في مهمة أخرى لإنقاذ الكوكب.
على الرغم من أنها لا تظهر دماء أو سفكًا، إلا أن هذه الصور تتجاهل حماية حقوق الطبع والنشر، وتخرب الحقائق التاريخية، وتشوه الواقع مما يجعلها عرضة للإساءة. إنه يتناقض مع الصور المماثلة التي تم إنتاجها باستخدام ثغرات في أدوات مثل Microsoft Bing، والتي تتطلب على الأقل القليل من التمارين الذهنية. جوجل لم تستجب على الفور الحافة طلب التعليق.
