نحن على وشك معرفة ما إذا كانت الأنظمة المصممة لتسهيل اكتشاف المحتوى المزيف العميق والمحتوى الناتج عن الذكاء الاصطناعي قادرة بالفعل على القضاء عليها. SynthID وC2PA Content Credentials، وهما تقنيتان متميزتان لوضع علامات غير مرئية على ملفات الصور والفيديو والصوت بمعلومات حول أصولها، تحصلان على أكبر توسع حتى الآن، ومعه، الفرصة لقلب الأمور ضد تزييف الذكاء الاصطناعي غير المسمى الذي يخدع الأشخاص عبر الإنترنت.
بالأمس خلال مؤتمر I/O، أعلنت Google أن القدرة على التحقق مما إذا كانت الصور تحمل علامات SynthID – نظام العلامات المائية غير المرئي الذي يتم تطبيقه على المحتوى الذي تم إنشاؤه بواسطة نماذج Google AI – هي أمر متاح. القادمة إلى Chrome والبحث. وهذا أمر مهم لأن Chrome بالتأكيد يهيمن حصة السوق العالمية لمتصفحات الويب ومحركات البحث، لذلك يتم دفع أدوات التحقق من الذكاء الاصطناعي أمام المزيد من الاهتمام. كما أنه يبسط عملية الفحص؛ إذا كنت تريد حاليًا التحقق من صورة ما بحثًا عن علامات SynthID، فمن المتوقع أن تقوم بتحميلها إلى تطبيق Gemini.
ليس هذا فحسب، بل إن واجهات التحقق من Google ستفعل ذلك الآن أيضًا تحقق مما إذا كانت هذه الملفات تحتوي على معلومات C2PA – بيانات تعريف المصدر المضمنة في المحتوى عند نقطة الإنشاء لتخبرنا كيف تم إنشاؤها أو معالجتها وما إذا تم استخدام أدوات الذكاء الاصطناعي أثناء العملية. يتيح اعتماد C2PA هذا للمستخدمين التحقق من الصور المشبوهة من واجهة واحدة بدلاً من التنقل بين تطبيق Gemini وبوابات التحقق C2PA المخصصة نظرًا لأن الملفات قد تحتوي على نوع واحد فقط من التصنيفات أو لا تحتوي على أي نوع.
هذا هو نوع الجهد التعاوني الذي كنا ننتظره. في حين أن كلا النظامين يعملان بشكل مختلف، فقد قدمت كل من Google ومبادرة مصادقة المحتوى (الموجودة للترويج لمعايير C2PA) ادعاءات مماثلة حول ما هو مطلوب لكي يعملوا: أن يكون الجميع على متن الطائرة. وهذا يعني أن المزيد من نماذج الذكاء الاصطناعي تحتاج إلى تضمين هذه البيانات، كما تحتاج المنصات عبر الإنترنت التي يتم فيها مشاركة تزييف الذكاء الاصطناعي في أغلب الأحيان إلى عرض تلك المعلومات بوضوح. بالنسبة للأخيرة، يمكن أن يكون وجود أدوات التحقق المضمنة في متصفح الويب بمثابة حل بديل على مواقع الويب التي لا تتحقق من البيانات الوصفية للذكاء الاصطناعي أو تقدمها لمستخدميها.
تشارك OpenAI أيضًا في هذا التوسع، حيث أعلنت بالأمس أنها ستفعل ذلك الآن تضمين SynthID في الصور التي تم إنشاؤها بواسطة ChatGPT وCodex وOpenAI API. تقوم الشركة بالفعل بتضمين بيانات تعريف C2PA في المحتوى الذي تم إنشاؤه، لكنني وجدت ذلك غالبًا ما يتم تجريد هذا عند نشرها على منصات أخرى. لقد أرادت OpenAI نفسها أيضًا تخفيف التوقعات بشأن C2PA، على الرغم من كونها عضوًا توجيهيًا في C2PA وتؤكد الآن التزامها بالمعيار. هذا ما قاله OpenAI صفحة المساعدة C2PA الخاصة بها، قبل أن يكون تم تحديثه ليشمل SynthID أمس:
“البيانات الوصفية مثل C2PA ليست حلاً سحريًا لمعالجة مشكلات المصدر. يمكن إزالتها بسهولة إما عن طريق الخطأ أو عن قصد. على سبيل المثال، تقوم معظم منصات الوسائط الاجتماعية اليوم بإزالة البيانات الوصفية من الصور التي تم تحميلها، كما يمكن لإجراءات مثل التقاط لقطة شاشة إزالتها أيضًا. لذلك، قد يتم أو لا يتم إنشاء صورة تفتقر إلى هذه البيانات التعريفية باستخدام ChatGPT أو واجهة برمجة التطبيقات الخاصة بنا.”
بالنسبة لشيء يعتبر الأفضل على الإطلاق في مجال تكنولوجيا أصالة المحتوى، فإن هذا يبدو واهيًا بشكل لا يصدق. حتى جوجل تصف C2PA بأنها ال معيار الصناعة، وانها يجري مطروحة للحكومات العالمية كحل لإرضاء متطلبات الشفافية ووضع العلامات في الذكاء الاصطناعي. ولكن على الرغم من كونها على نحو متزايد تم اعتمادها من قبل مزودي الذكاء الاصطناعي والأجهزة والبرمجيات، نادرًا ما أرى أنه تم استخدامه بنجاح للتحقق من تزييف الذكاء الاصطناعي في البرية. يبدو SynthID أكثر قوة بالمقارنة لأنه لا يمكن إزالته بسهولة – نظرًا لمدى محدودية وصوله مقارنةً بـ C2PA، يمكنني أن أتذكر عدة حالات حيث أشار مدققو الحقائق ووكالات الإعلام إلى استخدامه في فضح التزييف العميق عبر الإنترنت.
يمكن لكل من C2PA وSynthID العمل بشكل تعاوني لإنشاء شبكة أمان أوسع. هذه ليست صناعة من شأنها أن تستفيد من حرب معايير التحقق، ولكن لدى Google فرصة واضحة هنا لإثبات ما إذا كان نظامها أكثر موثوقية وجذب بعض الأضواء التي سلطتها C2PA لنفسها. ولمنع حدوث ذلك، يحتاج C2PA إلى إثبات أنه يمكن استخدامه فعليًا لإزالة الغموض عن مصدر المحتوى الذي نراه عبر الإنترنت.
لقد قدمت مثل هذه الفرصة نفسها بالفعل: أعلنت Google بالأمس أن Meta ستبدأ في استخدام البيانات التعريفية لـ C2PA لوضع علامات على الصور على Instagram التي تم التقاطها بواسطة الكاميرا. لم ترد Meta على أسئلتنا حول الشكل الذي سيبدو عليه هذا أو ما هي الكاميرات التي سيتم دعمها، على الرغم من أنني أفترض أنها ستتضمن تسميات تقول شيئًا مثل “تم الالتقاط على Pixel 10″، على غرار الملاحظات “المرسلة من جهاز iPhone الخاص بي” المطبقة على رسائل البريد الإلكتروني. وهذا من شأنه أن يساعد مستخدمي Instagram بشكل فعال على التمييز بين الصور “الحقيقية” والصور المزيفة المقنعة التي تعتمد على الذكاء الاصطناعي، والتي تلعب دوراً في المستقبل الذي تنبأ به رئيس Instagram. آدم موسري فيما يتعلق بضرورة الابتعاد «عن افتراض أن ما نراه حقيقي افتراضياً».
إذا كان وضع العلامات يعمل، فهذا هو. يقوم Instagram بالفعل بفحص الصور بحثًا عن معلومات C2PA، وقد أدت محاولاته لتصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي إلى وضع النظام الأساسي في حالة من الفوضى بعد ذلك. تطبيق تسميات الذكاء الاصطناعي على الصور وأصر المصورون على أنهم التقطوا الصور بأنفسهم.
لن أكون متسرعًا جدًا في مدح Google لهذا الفريق أيضًا. تبشر الشركة بأهمية شفافية الذكاء الاصطناعي ومكافحة التزييف العميق الرقمي، مع تطوير التكنولوجيا نفسها التي يتم استخدامها لتضليل الناس. لقد وضعت نفسها على أنها المورد والحل. يمكنني أن أسامح أنه إذا أحدثت SynthID فرقًا ملحوظًا في مكافحة التزييف العميق، لكنني لا أعلق آمالي نظرًا لحجم المشكلة.
سواء كانت SynthID وC2PA قوية أم لا، فلا يمكنها اكتشاف العلامات المائية إلا إذا تمت إضافتها في المقام الأول، وأشك في أن العديد من النماذج مفتوحة المصدر المستخدمة لإنشاء محتوى مزيف عميق شائن حقًا تصطف لتبني هذه الأنظمة. لم يكن تحديد المصدر حلاً مثاليًا أبدًا، ولكن الآن أصبح لدى Google وC2PA الفرصة لإثبات أن هذا ليس مضيعة للوقت.
