هذا هو الخطوة إلى الوراء, نشرة إخبارية أسبوعية تتناول قصة أساسية واحدة من عالم التكنولوجيا. لمعرفة المزيد عن ارتباك الذكاء الاصطناعي، اتبع روبرت هارت. الخطوة إلى الوراء يصل إلى صناديق البريد الوارد لمشتركينا في الساعة 8 صباحًا بالتوقيت الشرقي. الاشتراك في الخطوة إلى الوراء هنا.
في البداية، كان من السهل نسبيًا التعرف على المؤثرين في مجال الذكاء الاصطناعي، وتجاهلهم. وبصرف النظر عن الانفجارات العرضية من الضجيج، لا يبدو أنهم يغيرون كثيرًا في طريقة عمل وسائل التواصل الاجتماعي. أوائل المؤثرين الافتراضيين — ليل ميكيلا بأطرافها الحادة ونمشها، إيما مع بوب العلكة الوردي لها، و شودو جرام ببشرتها الخالية من العيوب – كان من الواضح أنها منتجات رقمية. التعاون كان أعلن مع ضجة. تتطلب المشاركات استوديوهات ومالًا وتنسيقًا والكثير من الصقل.
مع مرور الوقت، لاحظت أن الأشخاص المزيفين في مخططي الزمني بدأوا يبدون أكثر فأكثر مثل أي شخص آخر عليه. شخصيات مثل إميلي بيليجريني و الأب لوبيز اقتربت قليلًا من الواقع – أو على الأقل من واقع ذلك الصديق الثري الذي سافر كثيرًا من الكلية والذي لم تكن على اتصال به، والذي كان ينشر إلى الأبد من المطاعم الجميلة والأماكن الجميلة، أو من كوتشيلا و ويمبلدون. ليس من الممكن التواصل معهم تمامًا، ولكن، مرة أخرى، معظم المؤثرين المحترفين ليسوا كذلك أيضًا.
وحتى مع ذلك، فإن العديد من هذه الحسابات ليست حسابات قياسية بأي حال من الأحوال. لوبيز هو نتاج وكالة إبداعية إسبانية تدعى The Clueless، والتي تدير مجموعة من المؤثرين في مجال الذكاء الاصطناعي. أخبرني مبتكر بيليجريني، والذي يستخدم الاسم المستعار البروفيسور EP، أنه كان يدير منشئي محتوى OnlyFans. وهو الآن يبيع دورات لتعليم الناس كيفية جعل الأشخاص المؤثرين في مجال الذكاء الاصطناعي خاصين بهم.
وهو بالضبط ما بدأ الناس في فعله. الكثير من الناس.
لقد تآكلت الحداثة. لقد برز المؤثرون الأوائل في مجال الذكاء الاصطناعي بسبب قلة عددهم. لقد أصبحوا الآن جزءًا من فوضى أكبر بكثير من المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي يغمر وسائل التواصل الاجتماعي: هراء منخفض الجودة يتم نسخه بتكاسل من برامج الدردشة الآلية، وصور ومقاطع فيديو غير متقنة، وهذا جذاب سيد الخواتم أغنية ديسكو التي استحوذت على TikTok الخاص بي لمدة شهر.
الأشخاص المزيفون موجودون الآن في كل مكان. إنهم كذلك انتفاخ سفينة الهبوط غير المرغوب فيه, احتيال الرجال على المال عن طريق صور مزيفة، دفع معلومات مضللة و عنصري نقاط الحديث، و تقديم الطعام لمكانة غريبة بشكل متزايد، وغالبًا ما تكون جنسية. بالطبع، هناك كثيراً ل مصائد العطش. هناك أيضًا الكثير من المحتوى العادي، مع الصور الرمزية ببساطة نسخ كل ما هو شائع بين المبدعين من البشر، غالبًا ما يكون فقط وضع وجوههم المزيفة عليها.
وهذا يجعل من الصعب قياس حجم تأثير منشئ محتوى الذكاء الاصطناعي. ولا تنشر المنصات أرقامًا حول عدد مستخدميها الذين هم أشخاص مزيفون، ولا تصبح معظم الصور الرمزية للذكاء الاصطناعي شائعة أو مؤثرة بالقدر الكافي لتبرير نوع الاهتمام الإعلامي الذي تلقته الموجة السابقة. قواعد البيانات مثل البشر الظاهريون تتبع المئات من الصور الرمزية الشهيرة، لكن هذه ليست سوى الحسابات الغريبة أو الغريبة أو الكبيرة بما يكفي لجذب الانتباه. يوجد أسفلهم محيط من الحسابات التي تطير بالكامل تحت الرادار.
جزء من سبب قدرة هذه الحسابات على تجنب الاكتشاف هو أن التكنولوجيا المستخدمة في إنشائها قد تحسنت بشكل كبير. يمكن الآن أن تكون الصورة الثابتة لشخص مزيف جيدة بما يكفي لتمريرها على أنها حقيقية في لمحة، خاصة في موجز مليء بالمؤثرين الحقيقيين الذين يستخدمون بشكل كبير المسرح والمرشحات وتأثيرات التحرير. يتم اللحاق بالفيديو والصوت بسرعة، مما يمنح الأشخاص الافتراضيين أصواتًا وحركات يمكن أن تخدع أدوات التمرير غير المميزة. ولم تعد الأدوات متخصصة أو باهظة الثمن أيضًا. تتواجد المنتجات الرئيسية من شركات مثل Google وOpenAI جنبًا إلى جنب مع الخدمات المتخصصة من شركات مثل Higgsfield، وHeyGen، وElevenLabs. مع القليل من الجهد، يمكن لأي شخص تقريبًا أن يصبح مؤثرًا في مجال الذكاء الاصطناعي – أو مستقرًا لهم – دون الحاجة إلى استوديو، أو معدات متخصصة، أو (الكثير) من المال.
كل هذا يترك منصات التواصل الاجتماعي تواجه مشكلة لا يبدو أنها مهتمة بشكل خاص بحلها بشكل مباشر. بعد عدة سنوات من التعامل مع الصور ومقاطع الفيديو والصوت التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، أصبح لدى معظم المنصات الرئيسية الآن نوع من السياسة التي تغطي الوسائط الاصطناعية. ولكن إلى جانب اشتراط تصنيفات للمحتوى الذي ينشئه الذكاء الاصطناعي، فإن هذه القواعد غالبًا ما لا تزيد عن مجرد تصنيف المواد إلى فئات موجودة تغطي أشياء مثل عمليات الاحتيال والبريد العشوائي وانتحال الشخصية والمواد الرسومية. إن الأشخاص الذين يعملون في مجال الذكاء الاصطناعي، وخاصة أولئك المصممين للتصرف مثل الأشخاص الحقيقيين، لا يتناسبون تمامًا مع أي من هذه المجموعات. إنهم لا يقومون بالضرورة بعملية احتيال، أو ينشرون محتوى مصورًا، أو ينتحلون شخصية شخص ما – من الذي سيقلدونه حتى؟ وإذا كشفوا أن منشوراتهم تم إنشاؤها بواسطة الذكاء الاصطناعي، فليس من الواضح ما هي القواعد التي سيخرقونها.
في الوقت الحالي، تبدو المنصات راضية بالعيش في الغموض، فلا ترحب بشكل كامل بمبدعي الذكاء الاصطناعي ولا تتجنبهم. لقد اتخذوا موقفًا متناقضًا، حيث روجوا للذكاء الاصطناعي كأداة إبداعية بينما حاولوا أيضًا إيقاف موجة المد والجزر من غمر خدماتهم. يوتيوب, تيك توك, انستغرام، وطورت منصات أخرى قواعد لتصنيف الوسائط الاصطناعية، وخاصة النوع الواقعي، مع الترويج أيضًا لمجموعاتها الخاصة من أدوات الذكاء الاصطناعي، بما في ذلك بعض الأدوات التي يمكنها استنساخ أو محاكاة المستخدمين. لكن هذه القواعد تميل إلى التركيز على المنشورات الفردية بدلاً من الحسابات والشخصيات التي تقف وراءها، مما يترك أصحاب النفوذ في مجال الذكاء الاصطناعي في منطقة رمادية.
في ظل حالة عدم اليقين هذه، يزدهر النظام البيئي المؤثر للذكاء الاصطناعي. بعض شركات أبحاث السوق تقدير يمكن أن تبلغ قيمة سوق المؤثرين الافتراضيين أكثر من 60 مليار دولار بحلول عام 2030، ارتفاعًا من حوالي 12 مليار دولار هذا العام. النفوذ الثقافي ينمو أيضا. هناك جوائز الذكاء الاصطناعي المؤثرة, مسابقات ملكات الجمال، مخلص وكالات المواهب تمثل المبدعين الاصطناعيين، وسوقًا مزدهرًا للمبدعين الاصطناعيين الذين يبيعون الدورات التدريبية والأدوات الواعدة لمساعدة الأشخاص على إنشاء وإدارة المبدعين المزيفين الخاصين بهم، وغالبًا ما يكون ذلك مع وعد بدخل سلبي مجهول الهوية. بعضها يحمل رائحة هرمية باهتة تشبه الاندفاع نحو الذهب عبر الإنترنت، وبعض قصص النجاح المرئية وعدد هائل من الأشخاص الذين يبيعون المجارف.
أعتقد أن الحساب في الطريق. يعد انحدار الذكاء الاصطناعي أمرًا مزعجًا بالفعل، ولا يوجد سوى الكثير مما يمكن للمنصة أن تحمله حتى تصبح غير صالحة للاستخدام عمليًا، خاصة بالنظر إلى الرفض المستمر للسماح للمستخدمين بتصفية انحدار الذكاء الاصطناعي. الأشخاص المزيفون الذين يتظاهرون بأنهم حقيقيون هم نسخة أكثر حميمية لنفس المشكلة. ولكن بعيدًا عن التسميات وإنفاذ القواعد الحالية، تبدو المنصات في الغالب راضية برؤية ما يحدث. بالنسبة للمنصات، لا يزال التفاعل بمثابة تفاعل، سواء كان ذلك من منشئ مزيف أو حقيقي. وطالما أن المبدعين الاصطناعيين يواصلون النشر ولا يخرجون عن القواعد الحالية، يبدو أن هناك حافزًا ضئيلًا لاتخاذ إجراءات صارمة.
هناك أيضًا سؤال حول مدى استدامة فكرة وجود صور رمزية للذكاء الاصطناعي تعمل عبر الإنترنت. إذا تم إنشاء الكثير منها فقط لكسب المال من المستخدمين البشر، فماذا يحدث عندما ينضب مجموع المستخدمين البشر؟ هناك عدد قليل جدًا من الأشخاص الذين سيكونون على استعداد لشراء الدورات التدريبية والأدوات اللازمة لبناء مؤثرين خاصين بهم، على سبيل المثال. هذا يفترض أن وسائل التواصل الاجتماعي يمكنها النجاة من تدفق المؤثرين في مجال الذكاء الاصطناعي. بحكم التعريف، يتطلب الأمر وجود كتلة حرجة من البشرية لإبقاء الأمور اجتماعية. إذا تركت دون رادع، فسوف تنهار الشبكات تحت وطأة هؤلاء الأشخاص المزيفين، حيث سيتم حتماً إبعاد المستخدمين البشريين.
وقد يتغير ذلك إذا استمر الغضب الشعبي في التصاعد. انتهى رد الفعل العنيف التزييف العميقوانتحال الشخصية والبريد الإلكتروني العشوائي الاصطناعي يجبر بالفعل المشرعين والجهات التنظيمية على إيلاء اهتمام أكبر، لا سيما بعد الحوادث التي تنطوي على التزييف العميق الجنسي غير الرضائي الذي تم إنشاؤه باستخدام أدوات مثل Grok. قانون الذكاء الاصطناعي في أوروبا يمكن أن يكون محركًا، على الأقل مع دخول التزاماتها المتعلقة بالشفافية فيما يتعلق بالمحتوى الناتج عن الذكاء الاصطناعي حيز التنفيذ. ال أنظمة سيطلب من القائمين على نشر أنظمة الذكاء الاصطناعي التوليدية الكشف بوضوح عن المحتوى الذي تم إنشاؤه أو التلاعب به، مما قد يضغط على الشركات لتكثيف محتوى الذكاء الاصطناعي أو مواجهة غرامات باهظة محتملة. ولكن حتى ذلك الحين، لا يزال التركيز إلى حد كبير على المحتوى، وليس ما إذا كان الحساب الذي ينشره يمثل شخصًا حقيقيًا.
وكما هو الحال مع الكثير من وسائل التواصل الاجتماعي، فإن العبء يقع على عاتق المستخدمين. لقد قامت العديد من المنصات بتفويض مهمة الإشراف على محتوى الذكاء الاصطناعي للمستخدمين بشكل فعال، والاعتماد عليهم في اكتشاف الملفات الشخصية المشبوهة والإبلاغ عنها. لكن الاعتدال الذاتي هو إجابة سيئة وغير مستدامة لشيء مصمم لتجنب الانتباه. هناك بالفعل أ شهية متزايدة للمساحات الخالية من الذكاء الاصطناعي. إذا رفضت المنصات رسم حدود بين الواقعي وغير الواقعي، أتوقع أن يرسمها المستخدمون بدلاً من ذلك.
- كان لدى الكثير من الشخصيات المؤثرة البارزة في مجال الذكاء الاصطناعي الذين قابلتهم مؤخرًا ميول سياسية واضحة، وهو ما أشعر أنه يمكن أن يعجل بالحسابات التنظيمية. داني بونز، أ مغني راب قومي أبيض مزيف ممول من حزب سياسي يميني متطرف في المملكة المتحدة، ربما يكون هذا أفضل مثال على ذلك الذي رأيته حتى الآن.
- مثل المؤثرين البشريين، يتم إنشاء العديد من الصور الرمزية للذكاء الاصطناعي حول هويات ومجتمعات محددة، مثل العرق والإعاقة والسياسة والجنسية، مثل فتاة MAGA الخيالية جيسيكا فوستر، الذي يميل بشدة إلى جماليات الجيش ذات الطابع الجنسي والترامبية. لا تتوافق جميع الصور الرمزية مع منشئيها: على سبيل المثال، كان نموذج الذكاء الاصطناعي الأسود Shudu Gram كذلك صنعها رجل أبيض. إميلي بيليجريني هي أيضًا نتاج رجل، البروفيسور EP، الذي أخبرني أن الشخصية مبنية باستخدام محتوى قام بترخيصه من منشئ محتوى مجهول من OnlyFans.
- عنوان قصة جيس ويذربيد الأخيرة لـ الحافة يقول كل شيء: “دعونا نقوم بتصفية انحدار الذكاء الاصطناعي، أيها الجبناء“.
- الحافة ذكرت مؤخرا أن Grifters تستخدم تجسدات الذكاء الاصطناعي للأشخاص السود المزيفين لترويج المنتجات ذات الإنتاج الضخم عبر انخفاض الشحن بأسعار مضخمة على وسائل التواصل الاجتماعي.
- سلكي ذكرت في صناعة “قوادة الذكاء الاصطناعي” المزدهرة، حيث يتعرض المبدعون البشريون لسرقة المحتوى الخاص بهم وتحقيق الدخل منه بواسطة صور رمزية للذكاء الاصطناعي دون إذنهم.
- بودكاست تشارلي وارزيل فحصها الحوافز الكامنة وراء انتشار المؤثرين في مجال الذكاء الاصطناعي والإرهاق الذي يشعر به الكثيرون عندما يتعلق الأمر بالاهتمام بما إذا كان ما نستهلكه حقيقيًا أم لا.
