يدعي أحد مطوري البرامج أنه أجرى هندسة عكسية لنظام SynthID الخاص بـ Google DeepMind، موضحًا كيف يمكن تجريد العلامات المائية للذكاء الاصطناعي من الصور التي تم إنشاؤها أو إدراجها يدويًا في أعمال أخرى. ادعاء، وفقا لجوجل، غير صحيح.
المطور، يمر عبر اسم المستخدم الوشديني، لديه عملهم مفتوح المصدر على GitHub وقام بتوثيق عمليته، مدعيًا أن كل ما يتطلبه الأمر هو 200 صورة تم إنشاؤها بواسطة جيميني، ومعالجة الإشارات، و”الكثير من وقت الفراغ”. يبدو أن القليل من الأعشاب يساعد أيضًا.
“لا توجد شبكات عصبية. لا يوجد وصول خاص” قال الوشديني على ميديم. “تبين أنه إذا كنت عاطلاً عن العمل ولديك ما يكفي من الصور “السوداء النقية” التي تم إنشاؤها بواسطة الذكاء الاصطناعي، فإن كل بكسل غير صفري هو حرفيًا مجرد علامة مائية تحدق فيك.”
SynthID هو نظام علامات مائية شبه غير مرئي يقوم بوضع علامات على المحتوى الذي تم إنشاؤه بواسطة أدوات الذكاء الاصطناعي من Google، ويدمج نفسه في وحدات بكسل الصور عند نقطة الإنشاء. لقد تم تصميمه بحيث يكون من الصعب إزالته دون المساس بجودة الصورة، ويتم استخدامه على نطاق واسع عبر منتجات الذكاء الاصطناعي التي تقدمها Google – كل شيء تصدره نماذج مثل Nano Banana وVeo 3 يحمل علامات مائية SynthID، حتى أنه يتم تطبيقه على استنساخ منشئي المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي على YouTube.
يقول الوشديني إنه وجد النظام “هندسة جيدة حقًا”، ولم يتمكن من إزالة SynthID بالكامل في الاختبارات، وبدلاً من ذلك اعتمد على أجهزة فك تشفير SynthID المربكة التي تحاول قراءة الصور ذات العلامات المائية.
تعتبر العملية المستخدمة لكسر الآليات الأساسية لعلامة Google المائية معقدة من الناحية الفنية بالنسبة لغير المطورين. يمكنك قراءة الشرح الكامل على صفحة Aloshdenny Medium (والتي يبدو أنها كتبت عندما كان Aloshdenny “مرتفعًا”) إذا كنت فضوليًا، ولكن إليك شرحًا مبسطًا:
يقول ألوشديني: “إن أفضل ما يمكنني فعله هو إرباك جهاز فك التشفير بما يكفي للتخلي عنه – وليس حذفه فعليًا – مما يوضح الكثير عن مدى جودة تصميمه”. “إنها ليست مثالية. لكنها لا تحاول أن تكون غير قابلة للكسر. إنها تحاول رفع تكلفة سوء الاستخدام إلى حد كبير بحيث لا يزعج معظم الناس”.
لم أجرب مشروع الوشديني الذي يقوم بالهندسة العكسية لنظام العلامات المائية SynthID الخاص بشركة Google، لذلك لا أستطيع أن أضمن مدى فعاليته بالفعل. ومع ذلك، في هذا الوقت، لا يبدو أن SynthID لديه تمت هندستها بشكل عكسي، على الأقل ليس إلى الحد الذي يمكن فيه للأطفال تنزيل أداة وإزالة (أو إضافة) علامة Google المائية لخداع أنظمة اكتشاف الذكاء الاصطناعي. ولا تعتقد جوجل أيضًا أنها تصمد أمام ادعاءات الوشديني.
وقالت ميريام خان، المتحدثة باسم جوجل: “من غير الصحيح القول بأن هذه الأداة يمكنها إزالة العلامات المائية SynthID بشكل منهجي”. الحافة. “SynthID هي أداة قوية وفعالة لوضع العلامات المائية على المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.”
