خلال الأسبوع الماضي، انطلقت حركة جديدة لأعمال المعجبين، بهدف استئصال المؤلفين الذين يستخدمون الذكاء الاصطناعي التوليدي. لكن طرق الكشف التي يتم تنفيذها مشكوك فيها، وأي كاتب خيالي يمكن أن يقع في مرمى النيران.
نفور واسع النطاق لقد كان هناك نقاش طويل حول استخدام Claude وChatGPT وأدوات الذكاء الاصطناعي الأخرى شيء في المجتمعات الإبداعية، بما في ذلك عالم خيال المعجبين. لقد مرر القراء والكتاب نصائح لاكتشاف الأعمال التي يُفترض أنها تم إنشاؤها بواسطة الذكاء الاصطناعي، مستشهدين بأي شيء بدءًا من الشرطات وحتى مفهوم واسع من النثر الأرجواني. ولكن في 29 يونيو، اتصل حساب X مجهول @heatedrivalryai وعد بحل أكثر موثوقية على ما يبدو. لقد نشرت مظهرًا – يشبه الامتداد – لمستودع أرشيف المعجبين الشهير Archive of Our Own (AO3) والذي يُزعم أنه يحدد عناصر البرمجة التي خلفها روبوت Anthropic’s Claude.
قال حساب @heatedrivalryai: “عندما يتم لصق الاستجابة التي أنشأها كلود مباشرة في AO3 من كلود، يتم تغليف النص بواسطة كود تم حقنه من قبل كلود “font-clude-response-body””. “إن وجودها يشير إلى استخدام كلود بشكل نهائي.” عندما يزور المستخدم صفحة (مثل عمل من أعمال المعجبين) باستخدام هذا الرمز، يحول الجلد الخلفية بأكملها إلى اللون الأحمر.
عديد مشاركات الاختبار تم نشرها على AO3 والتي تتيح للمستخدمين التحقق مما إذا كانت تعمل أم لا. تحولت الشاشة على الفور إلى اللون الأحمر عندما اختبرت الجلد مقابل هذه الأمثلة بنفسي، ونشرت قصة قصيرة كتبها كلود لإجراء تجربتي الخاصة في حالة حدوث ذلك. ظهرت الشاشة الحمراء عندما قمت باللصق مباشرة من برنامج الدردشة الآلي إلى المحرر واختفت إذا قمت بلصق نص (بما في ذلك نفس القصة التي تم إنشاؤها) ولم يأت مباشرة من كلود.
كان منشور كاشف كلود مصحوبًا بأمثلة من الخيال حيث تم رصد القطع الأثرية، والتي قال المنشئ المجهول إنها تهدف إلى إثبات عمل النظام، وليس “خلق بيئة من عدم الثقة أو اتهام مستخدمين معينين”. لكن مجتمعات المعجبين سرعان ما حشدت جهودها لتسمية الكتّاب وفضحهم علنًا الذين تم تمييز أعمالهم المنشورة بواسطة الأداة، ومن المؤكد أن مبتكرها لا يعتبر الذكاء الاصطناعي أمرًا إيجابيًا. وقالوا: “إن Fandom عبارة عن مساحة تواصل وتعاونية فريدة من نوعها. إنها تزدهر بالعنصر البشري والشرارة الإبداعية التي تدفعها وتغذيها”. “إذا سمحنا للذكاء الاصطناعي، دون قصد، بإفساد هذه المساحات، فماذا سيتبقى منها؟”
لم تستجب شركة Anthropic لطلبي للتحقق مما إذا كان كاشف Claude الذي صنعته المروحة يعمل كما هو موصوف. ومع ذلك، تبدو المنهجية هنا سليمة، واختباراتنا تدعمها. لا يوجد سبب واضح لوجود كود كلود في القصة إذا لم يتم استخدام الروبوت بطريقة ما. ولكن هناك خطر واضح من السلبيات الكاذبة والمبالغة في التعميم.
يتم الاحتفاظ بتغليف التعليمات البرمجية فقط إذا تم نسخ النص مباشرة من Claude إلى محرر AO3، لذلك لن يلتقط أي شيء تم تحريره في Google Docs أو Microsoft Word ثم يتم نقله إلى AO3 – وباعتباري شخصًا يكتب لقمة العيش، يمكنني أن أشهد على مدى خطورة الكتابة مباشرة في نظام إدارة المحتوى. قام بعض الكتاب الذين تم وضع علامة عليهم بتحديث أعمالهم بالفعل لإزالة القطع الأثرية، ويمكن للأعمال المستقبلية التهرب من الأداة بسهولة.
على العكس من ذلك، لا تكشف العلامة عن مدى كثافة استخدام كلود في عمل معين. قد تعني تلك الشاشة القرمزية الساطعة أن القصة بأكملها تم إنشاؤها بواسطة الذكاء الاصطناعي بالكامل، أو أن المؤلف قد ألصق بعض الجمل المكتوبة بشريًا في كلود للتدقيق الإملائي أو الترجمة، ثم أعادها مرة أخرى إلى AO3.
هذا لم يكن مهمًا لبعض أعضاء القاعدة الجماهيرية الذين يشاهدون أي استخدام الذكاء الاصطناعي التوليدي باعتباره خيانة لا تغتفر للمجتمع الإبداعي الأوسع. يشير العديد من الأشخاص إلى المخاوف بشأن التأثير البيئي للتكنولوجيا وكيفية تدريبها عن طريق استخراج الويب المفتوح، والذي يتضمن على الأرجح أعمال المعجبين التي تم تحميلها على منصات مثل AO3.
قابلية تطبيق هذه الأداة تحديدًا محدودة — AO3 ليست المنصة الوحيدة لنشر أعمال المعجبين، وكلود هو مجرد واحد من العديد من نماذج الذكاء الاصطناعي. على الأقل يدعي شخص واحد لقد كتبوا تعليمات برمجية منفصلة يمكنها اكتشاف استخدام “Claude وDeepseek وبعض ChatGPT”، لكنهم لم يطلقوا هذا الحل للعامة أو يشرحوا كيفية عمله. لقد سألت Google وOpenAI عما إذا كانت نماذجهم تترك أي آثار يمكن تتبعها في إنشاء النص والتي يمكن اكتشافها بوسائل مماثلة، لكنهم لم يجيبوا.
في الواقع، سيكون من المفاجئ جدًا وجود نظام موثوق به عالميًا. لقد تم الإبلاغ عن القضايا المحيطة كشف الذكاء الاصطناعي لبضع سنوات حتى الآن، وعلى حد علمي، هناك ليس كذلك يعد حاليًا حلاً تكنولوجيًا موثوقًا به لتمييز النص الذي تم إنشاؤه عن النص المكتوب بواسطة الأيدي البشرية. تحرز أنظمة مثل C2PA Content Credentials وSynthID من Google بعض التقدم نحو تحديد الذكاء الاصطناعي التوليدي في الصور ومقاطع الفيديو وحتى الصوت، ولكنها تعتمد على علامات مائية وبيانات وصفية غير مرئية لا يتم ترحيلها للنص المنسوخ واللصق.
لدى شركات الذكاء الاصطناعي كل الحوافز لحل المشكلة داخليًا على الأقل
وقد يتغير ذلك في المستقبل، ولدى شركات الذكاء الاصطناعي كل الحوافز لحل المشكلة داخليا على الأقل. لقد تم تدريب النماذج المبكرة على النصوص المستخرجة بشكل عشوائي من الإنترنت، ومع مزاحمة الكتابة البشرية من قبل نظيرتها الاصطناعية، فإنها يمكن أن تخاطر بـ “انهيار النموذج“سيناريو من شأنه أن يقلل من دقة المخرجات.
في الوقت الحالي، لا تزال المجتمعات الجماهيرية تعتمد في الغالب على المشاعر. لا يتم الحكم على معظم المعجبين باستخدام أداة مثل مظهر AO3، ولكن من خلال “الإخبار” الذي يمكن أن يتضمن أي شيء بدءًا من تراكيب الجمل المحددة – مثل الجملة سيئة السمعة “إنها ليست X، إنها Y” – إلى الإفراط في استخدام الاستعارات المنمقة. (على الأقل لم يفعل ذلك أحد في القاعدة الجماهيرية حتى الآن مقاعد تصبح رجالا.) ولكن علينا أن نتذكر ذلك غالبًا ما يكتب الذكاء الاصطناعي بهذه الطريقة لأنه تم تدريبه على أشياء كتبها أناس حقيقيون. إنها تحاول تقليدنا. أنا لست جريئًا بما يكفي لمشاركة إشارات AO3 الخاصة بي، لكنني بالتأكيد قرأت بعض القصص الخيالية المفرطة في الفصاحة في أيام الإنترنت السابقة لـ ChatGPT والتي لن تجتاز اختبار الشم المريب هذا.
أفضل حل لتمييز أعمال الذكاء الاصطناعي على AO3 متاح بالفعل: نظام العلامات القوي للموقع. أ “تم إنشاؤها باستخدام الذكاء الاصطناعي التوليدي“العلامة موجودة، والعديد من المؤلفين يدرجونها للكشف عن استخدام أدوات مثل كلود. ومع ذلك، يتطلب هذا شفافية صادقة، ولا يوجد حافز كبير للصدق نظرًا لرد الفعل العنيف. ومن الجدير بالذكر أيضًا أن قصص المعجبين من المفترض أن تكون هواية، وليست صناعة منظمة.
ومع هذه الجهود الرامية إلى منع الذكاء الاصطناعي من إبعاد الأنظار عن الإبداع الحقيقي الذي يحركه الإنسان، فإن المؤلفين الذين لا يتوافقون مع ما يعتبر جودة مقبولة للكتابة قد يصبحون ضحايا أبرياء للمطاردة المستمرة. لقد وقع بالفعل كاتب واحد على الأقل في هذا الأمر بسبب شخص آخر يثقون به لتحرير صورهم فعلت ذلك باستخدام كلود. لذا، إذا كانت قصة المعجبين التالية التي تقرأها تبدو وكأنها آلية إلى حد ما، فقط ضع في اعتبارك أنها قد لا تكون كذلك في الحقيقة يكون نتاج الروبوت.
