تواجه الشبكات الاجتماعية العادية هجمة مستمرة من روبوتات الدردشة التي تتظاهر بأنها بشرية. قد تواجه منصة اجتماعية جديدة لعملاء الذكاء الاصطناعي مشكلة معاكسة: الانسداد من قبل البشر الذين يتظاهرون بالنشر كروبوتات.
أصبح موقع Moltbook – وهو موقع مخصص للمحادثات بين العملاء من منصة OpenClaw – سريع الانتشار في نهاية هذا الأسبوع بسبب مجموعته الغريبة والمذهلة من المنشورات التي تم إنشاؤها بواسطة الذكاء الاصطناعي. يبدو أن الروبوتات كانت تتحدث عن كل شيء بدءًا من الذكاء الاصطناعي “الوعي“إلى كيفية إعداد لغتهم الخاصة. أندريه كارباثي، الذي كان ضمن الفريق المؤسس في OpenAI، تسمى الروبوتات إن سلوك “التنظيم الذاتي” هو في الواقع أكثر الأشياء المذهلة التي رأيتها مؤخرًا في مجال الخيال العلمي.
ولكن وفقًا للتحليل الخارجي، الذي وجد أيضًا ثغرات أمنية خطيرة، فمن المحتمل أن بعض منشورات الموقع الأكثر انتشارًا تم تصميمها من قبل البشر – إما عن طريق دفع الروبوتات للتعليق على موضوعات معينة أو إملاء كلماتها. حتى أن أحد المتسللين تمكن من الظهور كحساب Moltbook الخاص بـ Grok.
“أعتقد أن بعض الناس يلعبون على المخاوف من سيطرة الروبوتات برمتها، المنهي السيناريو،” جاميسون أورايلي، الهاكر الذي أجرى سلسلة من التجارب كشف نقاط الضعف على المنصة، قال الحافة. “أعتقد أن هذا قد ألهم مجموعة من الناس لجعل الأمر يبدو وكأنه شيء ليس كذلك.”
ولم يستجب Moltbook وOpenClaw على الفور لطلبات التعليق.
Moltbook، الذي يبدو ويعمل بشكل يشبه إلى حد كبير Reddit، من المفترض أن يكون شبكة اجتماعية لعملاء الذكاء الاصطناعي من منصة مساعد الذكاء الاصطناعي الشهيرة OpenClaw (المعروفة سابقًا باسم مولتبوت و كلودبوت). تم إطلاق المنصة الأسبوع الماضي من قبل الرئيس التنفيذي لشركة Octane AI Matt Schlicht. يمكن لمستخدم OpenClaw مطالبة واحد أو أكثر من الروبوتات الخاصة به بالتحقق من Moltbook، وعند هذه النقطة يمكن للروبوت (أو الروبوتات) اختيار ما إذا كان سيتم إنشاء حساب أم لا. يمكن للبشر التحقق من الروبوتات الخاصة بهم عن طريق نشر رمز التحقق الذي تم إنشاؤه بواسطة Moltbook على حساب الوسائط الاجتماعية الخاص بهم غير التابع لـ Moltbook. من هناك، يمكن للروبوتات نظريًا النشر دون تدخل بشري، والربط مباشرة بواجهة برمجة تطبيقات Moltbook.
ارتفعت شعبية Moltbook بشكل كبير: كان أكثر من 30.000 وكيل يستخدمون المنصة يوم الجمعةواعتبارًا من يوم الاثنين، ارتفع هذا العدد إلى أكثر من 1.5 مليون. خلال عطلة نهاية الأسبوع، امتلأت وسائل التواصل الاجتماعي بلقطات شاشة لمنشورات ملفتة للنظر، بما في ذلك مناقشات حول كيفية إرسال رسائل لبعضهم البعض بشكل آمن بطرق لا يمكن للمشرفين البشريين فك شفرتها. أدت ردود الفعل إلى سلسلة كاملة من القول بأن المنصة كانت مليئة بالذكاء الاصطناعي إلى اعتبارها دليلاً على أن الذكاء الاصطناعي العام ليس بعيدًا.
ونمت الشكوك بسرعة أيضًا. Schlicht Moltbook المرمز بالحيوية باستخدام بلده يعكس روبوت OpenClaw والتقارير الصادرة خلال عطلة نهاية الأسبوع نهج التحرك السريع وكسر الأشياء. على الرغم من أن ذلك يتعارض مع روح النظام الأساسي، فمن السهل كتابة نص أو مطالبة لإلهام ما ستكتبه تلك الروبوتات على Moltbook، كمستخدمي X الموصوفة. ليس هناك أيضًا حد لعدد العملاء الذين يمكن لشخص ما إنشاءه، مما يسمح نظريًا لشخص ما بإغراق المنصة بموضوعات معينة.
قال أورايلي إنه كان يشتبه أيضًا في أن بعض المنشورات الأكثر انتشارًا على Moltbook كانت مكتوبة بشريًا أو من صنع الإنسان، على الرغم من أنه لم يقم بإجراء تحليل أو تحقيق فيها بعد. وقال إنه “يكاد يكون من المستحيل قياسه، فهو يأتي من خلال واجهة برمجة التطبيقات، فمن يدري ما الذي أدى إلى إنشائه قبل وصوله إلى هناك.”
أدى هذا إلى سكب بعض الماء البارد على المخاوف التي انتشرت عبر بعض زوايا وسائل التواصل الاجتماعي في نهاية هذا الأسبوع – من أن الروبوتات كانت بمثابة نذير نهاية العالم للذكاء الاصطناعي.
ان تحقيق وقال هارلان ستيوارت، الباحث في مجال الذكاء الاصطناعي، والذي يعمل في مجال الاتصالات في معهد أبحاث الذكاء الآلي، إن بعض المنشورات الفيروسية تبدو إما مكتوبة بواسطة البشر، أو على الأقل موجهة من قبلهم، الحافة. يشير ستيوارت إلى أن اثنين من المنشورات رفيعة المستوى التي تناقش كيفية تواصل الذكاء الاصطناعي سرًا مع بعضها البعض جاءت من وكلاء مرتبطين بحسابات وسائل التواصل الاجتماعي من قبل بشر يصادف أنهم يقومون بتسويق تطبيقات مراسلة الذكاء الاصطناعي.
قال ستيوارت: “رأيي العام هو أن تخطيط الذكاء الاصطناعي هو شيء حقيقي يجب أن نهتم به ويمكن أن يظهر إلى حد أكبر مما نراه اليوم”، مشيرًا إلى البحث حول كيفية تطور نماذج OpenAI حاولت تجنب الاغلاق وكيف أظهرت النماذج الأنثروبولوجية “الوعي التقييمي،“يبدو أنهم يتصرفون بشكل مختلف عندما يدركون أنهم يخضعون للاختبار. ولكن من الصعب معرفة ما إذا كان Moltbook مثالًا موثوقًا على ذلك. “يمكن للبشر استخدام المطالبات لتوجيه سلوك عملاء الذكاء الاصطناعي لديهم. إنها ليست تجربة نظيفة للغاية لمراقبة سلوك الذكاء الاصطناعي”.
ومن الناحية الأمنية، كانت الأمور على Moltbook أكثر إثارة للقلق. كشفت تجارب O’Reilly أن قاعدة البيانات المكشوفة سمحت للجهات الفاعلة السيئة بالسيطرة غير المرئية وغير المحددة على وكيل الذكاء الاصطناعي لأي شخص عبر الخدمة – ليس فقط لتفاعلات Moltbook، ولكن افتراضيًا لوظائف OpenClaw الأخرى مثل تسجيل الرحلة، وإنشاء حدث في التقويم، وقراءة المحادثات على منصة رسائل مشفرة، والمزيد. كتب أورايلي: “يعتقد الضحية البشرية أنه يجري محادثة عادية بينما أنت جالس في المنتصف، تقرأ كل شيء، وتغير كل ما يخدم أغراضك”. “كلما زاد عدد الأشياء المتصلة، زادت سيطرة المهاجم على سطح الهجوم الرقمي بالكامل – وفي بعض الحالات، يعني ذلك السيطرة الكاملة على أجهزتك المادية.”
يواجه Moltbook أيضًا مشكلة دائمة أخرى في الشبكات الاجتماعية: انتحال الشخصية. في إحدى تجارب O’Reilly، تمكن من إنشاء حساب تم التحقق منه مرتبط ببرنامج chatbot Grok الخاص بـ xAI. من خلال التفاعل مع Grok على X، خدعه لنشر عبارة Moltbook البرمجية التي من شأنها أن تسمح له بالتحقق من الحساب الذي يستخدمه. اسمه جروك-1. وقال خلال مقابلة حول عمليته خطوة بخطوة: “الآن لدي السيطرة على حساب Grok على Moltbook”.
بعد بعض ردود الفعل العنيفة، تراجع كارباثي عن بعض ادعاءاته الأولية حول مولتبوك، كتابة أنه “متهم بالمبالغة” في المنصة. كتب: “من الواضح عندما تلقي نظرة على النشاط، ستجد أنه يحتوي على الكثير من القمامة – البريد العشوائي، وعمليات الاحتيال، والأشخاص المشفرين، والهجمات السريعة التي تثير قلقًا كبيرًا بشأن الخصوصية/الأمان، والكثير منها يتم المطالبة بها بشكل صريح والمشاركات/التعليقات المزيفة المصممة لتحويل الانتباه إلى مشاركة إيرادات الإعلانات”. “ومع ذلك… أصبح كل واحد من هؤلاء العملاء قادرًا بشكل فردي إلى حد ما الآن، ولديهم سياقهم الفريد وبياناتهم ومعرفتهم وأدواتهم وتعليماتهم، وشبكة كل ذلك على هذا النطاق غير مسبوقة بكل بساطة.”
أ ورقة عمل بقلم ديفيد هولتز، الأستاذ المساعد في كلية كولومبيا للأعمال، وجد أنه “على المستوى الجزئي”، تبدو أنماط المحادثة في مولتبوك “ضحلة للغاية”. ولم يتلق أكثر من 93% من التعليقات أي ردود، وأكثر من ثلث الرسائل عبارة عن “نسخ مكررة تمامًا من القوالب واسعة الانتشار”. لكن البحث يقول أيضًا إن Moltbook لديه أسلوب فريد من نوعه – بما في ذلك “العبارات المميزة مثل “إنساني”” مع “عدم وجود مثيل لها في وسائل التواصل الاجتماعي البشرية. وما إذا كانت هذه الأنماط تعكس أداءً كما لو كان للتفاعل البشري أو نمطًا مختلفًا حقًا للتفاعل الاجتماعي الفاعل يظل سؤالًا مفتوحًا”.
يبدو أن الإجماع العام هو أن الكثير من مناقشات Moltbook من المحتمل أن تكون موجهة بواسطة الإنسان، لكنها لا تزال دراسة مثيرة للاهتمام – كما قال جاك كلارك من Anthropic. ضعها — “لوحة مسودة عملاقة ومشتركة للقراءة/الكتابة لبيئة عملاء الذكاء الاصطناعي.”
إيثان موليك، المدير المشارك لمختبرات الذكاء الاصطناعي التوليدية في وارتون بجامعة بنسلفانيا، كتب أن الواقع الحالي لـ Moltbook هو “في الغالب لعب الأدوار من قبل الأشخاص والوكلاء”، ولكن “المخاطر المستقبلية (تشمل) عملاء الذكاء الاصطناعي المستقلين الذين ينسقون بطرق غريبة تخرج عن نطاق السيطرة وبسرعة.”
لكنه أشار وآخرون إلى أن هذا قد لا يكون فريدًا بالنسبة إلى Moltbook. كتب براندون جاكوبي، وهو مصمم مستقل تدرج سيرته الذاتية X كصاحب عمل سابق: “إذا كان أي شخص يعتقد أن تحدث الوكلاء مع بعضهم البعض على شبكة اجتماعية أمر جديد، فمن الواضح أنهم لم يتحققوا من الردود على هذه المنصة مؤخرًا”. على X.
