في مارس، ميتا ودعا مجلس الرقابة على الشركة إلى “الوفاء بالتزاماتها العامة واستخدام أدواتها الخاصة” للمساعدة في قمع انتشار محتوى الذكاء الاصطناعي التوليدي الخادع عبر المنصات. استجاب ميتا في يوليو بتقديم ختم المحتوى – تقنية وضع العلامات المائية غير المرئية التي تحدد الصور التي تم إنشاؤها بواسطة نموذج الذكاء الاصطناعي الجديد للشركة. لكنها كانت في الأساس حاشية مدفونة في إعلان الشركة عن أدوات إنشاء الصور والفيديو الخاصة بها.
باعتباري شخصًا يقضي الكثير من الوقت في التدقيق في أنظمة تصنيف الذكاء الاصطناعي، فإن ختم المحتوى لا يملأني بالثقة. هناك بالفعل حلول أكثر رسوخا، مثل بيانات اعتماد محتوى C2PA وSynthID من Google، كان من الممكن أن تستخدمه Meta بدلاً من إطلاق نظامها الخاص بشكل ملحوظ لاحقًا. بعد البحث لمعرفة سبب قيام Meta بإطلاق نظامها الخاص، لست مقتنعًا بأن Meta قد فكرت في هذا الأمر مليًا.
وفقًا لوصف Meta، يعمل Content Seal بشكل مشابه لـ معرف سينثيدي. توفر العلامة المائية، غير المرئية للعين البشرية، “إشارة مصدر مخفية” مضمنة في الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي يمكن بعد ذلك مسحها ضوئيًا ووضع علامة عليها بواسطة أداة الكشف، مما يساعد مستخدمي الإنترنت على التمييز بين المحتوى المزيف العميق والمحتوى الأصلي. مثل SynthID، تقول Meta أيضًا أن العلامات المائية لـ Content Seal تظل سليمة ولا يزال من الممكن اكتشافها إذا تم “اقتصاص” الصورة أو ضغطها أو تغيير حجمها أو التقاط لقطة شاشة لها.
لذا، إذا كان Content Seal يقوم بنفس الشيء وظيفيًا… فلماذا لا نعتمد SynthID فقط؟ تعمل Meta بالفعل كـ عضو اللجنة التوجيهية من التحالف من أجل مصدر المحتوى وأصالته (C2PA) الذي يروج لمعيار بيانات اعتماد المحتوى المنفصل جنبا إلى جنب لقد أبدت Google استعدادها للعمل مع الآخرين على حل المشكلة المتزايدة المتمثلة في اكتشاف الذكاء الاصطناعي. لقد تم بالفعل اعتماد SynthID بواسطة OpenAI، لذلك من الواضح أن Google مستعدة أيضًا لفتح تقنيتها أمام موفري الذكاء الاصطناعي المنافسين باسم تحسين الشفافية.
يحتوي Content Seal على العديد من القيود في حالته الحالية على الرغم من أوجه التشابه هذه مع نظام Google. في الوقت الحالي، يمكن للمستخدمين فقط اكتشاف العلامات المائية لختم المحتوى من خلاله أداة ويب مخصصة التي تقوم Meta باختبارها، مما يعني أن Meta لم تقم ببناء قدرات الكشف هذه في برنامج الدردشة Meta AI الخاص بها مثل جوجل لديها مع الجوزاء. ومع ذلك، يبدو أن هذا قد يكون قيد التنفيذ. وقال المتحدث باسم ميتا فيث آيشن الحافة أن الشركة “تستكشف طرقًا لتقريب الاكتشاف من المكان الذي يواجه فيه الأشخاص المحتوى الناتج عن الذكاء الاصطناعي”. نظرًا لأن هذا هو المكان الذي تشتد الحاجة فيه إلى اكتشاف الذكاء الاصطناعي، وكان كذلك لبعض الوقت، فلماذا لا يكون متاحًا عند الإطلاق؟
يتم أيضًا تطبيق العلامة المائية نفسها فقط على الصور التي تم إنشاؤها بواسطة Muse في تطبيق Meta AI وموقع Meta.ai، مما يعني أنه لا يمكن للمستخدمين عبر الإنترنت استخدامها لاكتشاف المحتوى الذي تم إنشاؤه بواسطة نماذج الذكاء الاصطناعي الأقدم من Meta. دعم الفيديو الذي تم إنشاؤه غير متوفر أيضًا، على الرغم من أن Meta يقول أن هذا سيأتي “قريبًا”.
1/2
لقد فرضت Meta حدًا يوميًا لعدد المرات التي يمكنك فيها التحقق من الصور بحثًا عن ختم المحتوى من خلال أداة الكشف الخاصة بها. وقال آيشن إن حد المعدل هذا مصمم لدعم “الاستخدام العادي” مع حماية نظام الكشف من سوء الاستخدام. لم يوضح ميتا كيف سيبدو سوء الاستخدام هذا – من المفترض، محاولات لكسر النظام لتجنب اكتشاف المحتوى الذي يحمل علامة مائية – ولكن جوجل و أدوات الكشف الخاصة بـ OpenAI لديها قيود معدل مماثلة. يبرز C2PA باعتباره النظام الوحيد الذي لا يحدد عدد المرات التي يمكن للمستخدمين فيها التحقق من المحتوى. إن أي قيود على الاكتشاف تبدو غير بديهية لتحسين شفافية الذكاء الاصطناعي على نطاق واسع، لذلك يبدو هذا بمثابة فرصة ضائعة لنظام ميتا للقيام بشيء أفضل من SynthID.
وعلى منصات Meta الخاصة مثل Facebook وInstagram التي تطبق تسميات الذكاء الاصطناعي، قال Eischen إن البيانات الوصفية غير المحددة “إلى جانب العلامة المائية لختم المحتوى” تُستخدم لمساعدة المستخدمين على تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. عندما سألت Meta عما إذا كانت تصدر تعليمات لمنصات أخرى عبر الإنترنت مثل TikTok وLinkedIn التي تقوم بمسح محتوى الذكاء الاصطناعي وتصنيفه حول كيفية اكتشاف ختم المحتوى، قال Eischen إن الشركة “مصممة على العمل مع أقراننا في الصناعة للتأكد من حصول المستخدمين على أفضل تجربة ممكنة”.
يبدو أن الدعم الأوسع للمعيار لا يزال قيد التقدم، مما قد يمنع تصنيف الصور التي أنشأها Muse بشكل فعال خارج منصات Meta الخاصة. عندما قمت بتغذية صورة اختبارية قمت بإنشائها باستخدام نموذج Meta’s Muse إلى Gemini وبوابة الكشف الرسمية لـ C2PA، لم تتمكن أي من الأداة من تأكيد أنها تم إنشاؤها بواسطة الذكاء الاصطناعي. هناك أيضًا سؤال حول ما إذا كان يمكن تطبيق Content Seal على ملفات الصور والفيديو جنبًا إلى جنب مع SynthID وContent Credentials دون التدخل في تلك المعايير الأخرى. لم يقدم ميتا أي توضيح لهذا الأمر في السجل.
قال آيشن: “مثل الآخرين، قمنا ببناء Content Seal محليًا وفقًا للمواصفات والمنتجات الفنية الخاصة بنا. ويتطلب الأمر أساليب متعددة تعمل معًا لمعالجة هذا الأمر عبر النظام البيئي، ويسعدنا أن نساهم في هذا الجهد”. “سيكون لدينا المزيد لمشاركته حول Content Seal قريبًا.”
نظرًا لأن Content Seal يمكنه فقط اكتشاف الصور التي تم إنشاؤها باستخدام أحدث نموذج للذكاء الاصطناعي من Meta، فلا بد لي من أن أتساءل عما كانت تفعله الشركة طوال هذا الوقت. قدمت ميتا أدوات إنشاء الصور بالذكاء الاصطناعي منذ عام 2023، لذا فقد أنتج بالفعل الكثير من المنتجات المزيفة التي لا يمكن اكتشافها بواسطة نظام الملكية الخاص به. كما أدخلت علامات الذكاء الاصطناعي على إنستغرام وفيسبوك في عام 2023، الأمر الذي أثار غضب العديد من المصورين في ذلك الوقت من خلال تصنيف الصور الحقيقية عن طريق الخطأ على أنها “”صنع بواسطة منظمة العفو الدولية“.
وبعد مرور ثلاث سنوات، لا تزال شركة Meta غير متأكدة من كيفية تقديم نفسها كمصنع لمحتوى الذكاء الاصطناعي والحل لتحديده، خاصة عبر منصاتها الخاصة. وحتى القيادة العليا في ميتا تبدو في حيرة من أمرها بشأن ما ينبغي عليها فعله بعد ذلك.
في مقابلة على البودكاست ليني راتشيتسكي، رئيس إنستغرام آدم موسيري اعتنقت في البداية فكرة أنه يجب السماح للأشخاص الذين لا يحبون المحتوى الذي ينشئه الذكاء الاصطناعي بإبقائه خارج خلاصاتهم الاجتماعية – وهو ما يبدو غريبًا للغاية ميزة التصفية قد يتطلب ذلك نظامًا موثوقًا لتصنيف الذكاء الاصطناعي. بل إنه يقترح أن الأصالة في حد ذاتها ستصبح مرغوبة أكثر باعتبارها شيئًا لا يستطيع الذكاء الاصطناعي تقديمه.
وقال موسيري: “في عالم يكثر فيه المحتوى الاصطناعي، أعتقد أن الناس سيبحثون عن الإبداع والأصالة أكثر وليس أقل”.
“لا أعتقد أنه يتعين علينا تصفية محتوى الذكاء الاصطناعي”
ومع ذلك، خلال المقابلة نفسها، قال موسيري: “لا أعتقد أننا يجب أن نقوم بتصفية محتوى الذكاء الاصطناعي”، بينما أكد أنه “يجب أن نخبرك ما إذا كان المحتوى هو محتوى الذكاء الاصطناعي أم لا”. موسري أيضاً وكرر الرأي لقد أعرب سابقًا عن أنه قد يكون “أكثر عملية”. بصمة الوسائط الحقيقية من الإعلام المزيف.” هذا لا يجعل شركة Meta تبدو واثقة من قدرتها على تطوير نظام قابل للتطبيق لتصنيف الذكاء الاصطناعي. لقد كان لديها متسع من الوقت للقيام بذلك بين بناء منصاتها الاجتماعية في مصانع النفايات الجمبري يسوع وغيرها الدماغ التوليديومع ذلك، فإن إطلاق Content Seal لا يزال يبدو وكأنه تم التعجيل به.
إنه لا يقدم فوائد فريدة للمستهلكين مقارنة بنظام SynthID المماثل، وبدلاً من ذلك يقوم فقط بإنشاء حلقة أخرى يجب على الأشخاص القفز من خلالها للتحقق من محتوى الذكاء الاصطناعي. ربما ميتا يجب لقد اعتمدت للتو معيار Google للعلامة المائية بدلاً من ذلك، كما فعلت OpenAI. قد يكون مستخدمو Facebook وInstagram في وضع أفضل إذا فعلوا ذلك. أخبرني آيشن أن ميتا كان يساهم أبحاث العلامات المائية مفتوحة المصدر لسنوات حتى الآن، لذلك لم يتم تطوير هذه التقنية بين عشية وضحاها، لكنني أتوقع ظهور تجربة أفضل في مواجهة المستهلك.
إذا أرادت Meta الاعتماد على حلولها الخاصة بدلاً من ذلك، فستحتاج إلى أكثر من نسخة SynthID نصف مكتملة لإثبات جديتها بالفعل فيما يتعلق بشفافية الذكاء الاصطناعي – وبالتأكيد أكثر موثوقية على الأقل. رويترز وجدت بالفعل أن Content Seal فشل في اكتشاف أكثر من نصف الصور التي أنشأها Muse واختبرها بعد اقتصاصها.
