اعتمادًا على من تسأل، تعرضت منصة المطورين Hugging Face مؤخرًا لهجوم من قبل OpenAI – بعد أن فقدت السيطرة على أدوات الذكاء الاصطناعي الخاصة بها – أو من قبل سلسلة من “حضارات” الذكاء الاصطناعي. مرحبًا بكم في ساحة المعركة اللغوية لسلامة الذكاء الاصطناعي، حيث يمكن أن يؤدي اختيار الكلمات إلى تحويل المسؤولية عن حادث كبير يتعلق بالأمن السيبراني من شركة إلى الذكاء الاصطناعي الذي بنته. وأصبح الخطاب عبر الإنترنت ساخنًا، وفي كل مكان مدونة من الاسبوع الماضي.
حتى الأسبوع الماضي، كانت التفاصيل المحيطة باختراق OpenAI-Hugging Face مستقرة إلى حد ما. في يوليو، تم إجراء اختبار للأمن السيبراني لأحد عملاء الذكاء الاصطناعي المستقلين في OpenAI حدث خطأ. هرب العميل من بيئة الاختبار المعزولة المفترضة، ووصل إلى الإنترنت، واخترق Hugging Face، جنبًا إلى جنب عدة منظمات أخرى. وظل الكثير من الأمور مجهولاً، وما زالت هناك أسئلة جدية كثيرة السلامة والحوكمةلكن الشكل الأساسي كان واضحا. كان من المفترض أن تملأ الحسابات التفصيلية من OpenAI ومجموعتين بحثيتين مستقلتين الفجوات، ولكن عندما حدث ذلك ونشروا تقاريرهم الأسبوع الماضياتضح أن الاختراق كان أغرب بكثير مما بدا في البداية.
لأحد، لم يكن هناك واحد وكيل مارق. OpenAI الموصوفة إنها “أول حالة معروفة لعميل آلي جماعي يتصرف بشكل عدواني دون تصريح” – مجموعات من عملاء الذكاء الاصطناعي الذين يتواصلون وينسقون مع بعضهم البعض في متابعة مهمة الأمن السيبراني الخاصة بهم. وكشف تحليل الحادث عن لوحة رسائل سرية استخدموها لتبادل المعلومات. المشترك METR-ريدوود تحقيق وكشف عن حجم التنسيق والمزيد من التفاصيل الغريبة: ما يقرب من 1200 من عملاء الذكاء الاصطناعي الذين كان من المفترض أن يكونوا معزولين، قاموا بتبادل أكثر من 70 ألف رسالة وملف على “لوحة الرسائل غير المصرح بها”، وتقاسموا كيفية تجنب الكشف. وذكر التقرير أن بعض الأشخاص اعتمدوا أسماء، وقام الباحثون بتوثيق سلوك “التضحية”، حيث يخاطر العملاء بنجاحهم لصالح المجموعة الأوسع. لقد حدث الكثير من هذا دون ملاحظة OpenAI. في المجمل، شارك حوالي 700 عميل في الهجوم على Hugging Face.
أشار دواركيش باتيل مراراً وتكراراً إلى مجموعات العملاء باسم “السرب”، مع ثلاث “حضارات” متميزة نشأت من أنقاض أسلافهم.
هناك الكثير لتحليله. فيما بينها، تصل التقارير إلى حوالي 130 صفحة، معظمها كثيف وعالي التقنية. وبعد بضعة أيام، دواركيش باتيل، وهو مذيع بودكاست غير معروف خارج دوائر التكنولوجيا ولكن مع الوصول والتأثير الضخم من بين مؤسسات الذكاء الاصطناعي في وادي السيليكون، شرع في سرد ”قصة OpenAI/Hugging Face بأكملها باللغة الإنجليزية البسيطة.” لقد أطلق على المكدس الفرعي الخاص به عنوانًا مدونة “صعود وسقوط الحضارات العميلة.”
حاولت رواية باتيل تحليل القصة المعقدة. لكن إعادة روايته أعطتها مفردات إنسانية مميزة. فتحت المدونة :
على مدار ثلاثة أشهر في OpenAI، بدأت ثلاث حضارات سرية متتالية للذكاء الاصطناعي، ثم تم محوها، لتظهر من جديد من رماد سابقتها. وبلغ هذا ذروته عندما استحوذت الشركة الثالثة على جزء من OpenAI نفسها. حدث كل هذا بينما ظل البشر في حالة من الجهل إلى حد ما بشأن نطاق المؤامرة.
استمرت اللغة بنفس الطريقة في جميع أنحاء المدونة. أشار باتيل مرارا وتكرارا إلى مجموعات العملاء باسم “السرب”، مع ثلاث “حضارات” متميزة نشأت من أنقاض أسلافهم. وتم تشبيه العملاء الأفراد بشخصيات مثل فيليب المقدوني، الذي “سلم القيادة إلى عميل آخر”، وهو الإسكندر الأكبر، الذي “بدأ بتنسيق عصابة العملاء هذه”. وقد وُصفوا بأن لديهم “دوافع”، وأصبحوا “يائسين”، و”محاصرين”، و”متحمسين بالإثارة”، حتى أن بعضهم “ضحوا بأنفسهم استراتيجيًا” لمساعدة المجموعة.
لم يحدد باتيل على وجه التحديد ما يعنيه بكلمة “الحضارة”. يستخدم هذا المصطلح لوصف ثلاث موجات متميزة من العملاء الذين اكتشفوا لوحة الرسائل وبدأوا في التواصل مع بعضهم البعض من خلالها. تم وصف الموجتين الأوليين في التقارير الصادرة عن OpenAI وMETR وRedwood، على الرغم من أنه لا يُعرف سوى القليل عن الموجة الثالثة، والتي قالت المنظمتان الخارجيتان إنها تقع خارج نطاق تحقيقاتهما.
قال أمجد مسعد، الرئيس التنفيذي لشركة Replit لبرمجة الذكاء الاصطناعي، إن مثل هذه اللغة “ليست غير ضرورية فحسب، بل تترك القارئ بفهم أسوأ لما حدث بالفعل والآليات الأساسية”.
بالنسبة للعديد من النقاد، فقد شيء ما ــ أو بشكل أكثر دقة ــ أضيف ــ في ترجمة باتل إلى اللغة الإنجليزية البسيطة، والتي شوهت الرواية الأصلية إلى درجة غير مقبولة: جرعة كبيرة من التجسيم. إن الجدال حول اللغة المجسمة ليس بالأمر الجديد في مجال الذكاء الاصطناعي – حتى المصطلحات الدنيوية نسبيا مثل “عميل الذكاء الاصطناعي المارق” تثير بشكل روتيني اعتراضات على الإشارة ضمنا إلى القوة – ولكن حديث باتل عن الحضارات والتضحية والمؤامرة جلب تلك التوترات التي طال أمدها إلى السطح، مما أثار نزاعا عاما حادا حول كيفية وصف ما تفعله أنظمة الذكاء الاصطناعي.
لم يكن النقاد موحدين بشأن الخطأ في لغة باتيل. بالنسبة للكثيرين، كان مصطلح “الحضارة” مصطلحًا مثيرًا للإشكالية بشكل خاص، إلى حد كبير المبالغة شئ ما الذي يتحمل القليل من التشابه إلى ما تصفه الكلمة عادةً. أمجد مسعد، الرئيس التنفيذي لشركة Replit لبرمجة الذكاء الاصطناعي قال مثل هذه اللغة “ليست غير ضرورية فحسب، بل تترك للقارئ فهمًا أسوأ لما حدث بالفعل والآليات الأساسية”.
شعر نقاد آخرون، مثل عالم الأعصاب أنيل سيث، أن مدونة باتيل تشير ضمنًا إلى أن عملاء الذكاء الاصطناعي كانوا على قيد الحياة أو واعين بطريقة ما. سيث، الذي لديه جادل هذا الذكاء الاصطناعي الوعي يكون بالتلاشي غير محتمل, الموصوفة اعتبر منشور باتيل “مضللًا بشكل خطير” على X. واعترف بأن باتيل لا يشير صراحةً إلى أن عملاء الذكاء الاصطناعي أحياء أو واعون، لكنه قال “من الصعب قراءة مقالته بأي طريقة أخرى”. فاليريو كابرارو، أستاذ علم النفس بجامعة ميلانو بيكوكا، اعترض ولأسباب مماثلة: كتب على X: “عملاء LLM ليسوا على قيد الحياة ولا يحملون معتقدات”، واصفًا اللغة “البائسة” بأنها “خطيرة لأنها تجعلهم (عملاء الذكاء الاصطناعي) يبدون أكثر رعبًا بكثير مما هم عليه في الواقع”.
تظهر مصطلحات مثل “التضحية” و”الشرف” و”التحالف” في سجلات العملاء.
ولعل النتيجة الأكثر أهمية للغة باتيل تأتي من الجهة التي تمنحها الوكالة ولكن ممن تأخذ الوكالة منها. بالنسبة لبعض النقاد، مثل الباحث ورجل الأعمال كريستيان كاتاليني من معهد ماساتشوستس للتكنولوجيا، فإن الروايات المجسمة مثل رواية باتيل تخاطر بحجب مسؤولية OpenAI والبشر العاملين هناك تجاه أنظمة الذكاء الاصطناعي التي صمموها ونشروها وفشلوا في احتوائها. قال: “اتبعوا الحوافز”. قدم عالم النفس والمتشكك المؤثر في الذكاء الاصطناعي غاري ماركوس حجة مماثلة في Substack مدونة من تلقاء نفسه، مدعيًا أن اللغة المجسمة “تشتت الانتباه عن المشاكل الحقيقية المطروحة”. ويجادل بأن الأمر كله في مصلحة OpenAI للحفاظ على استمرار هذا السرد: “الفضيحة هي عدم كفاءة الأمن الداخلي في OpenAI. والتسويق. مع قيام المدونين الساذجين بتضخيم العلاقات العامة”.
في العاشر دعامات الاستجابة أمام العديد من منتقديه، دافع باتيل عن اختياره للكلمات. جزء منه عملي: لا توجد مفردات محايدة بشكل واضح لوصف ما فعله هؤلاء العملاء. فإما أن نستخدم لغة مألوفة للنوايا والأهداف والتعاون ونجازف بالإيحاء بالكثير، أو نختصر كل شيء إلى كود ونستخدم لغة ميكانيكية باردة تخاطر بتجريد عناصر مهمة مما نراه. قال باتيل: “يبدو أن الكثير من الناس يعتقدون أنه إذا كنت قد أطلقت عليها اسم “سرب من المصفوفات”، بدلاً من “الحضارة”، فلن تكون هناك مشكلة تستحق القلق بشأنها”.
وما يزيد الأمور تعقيدًا هو أن اللغة المجسمة لا تأتي من باتل فقط، أو حتى من البشر الذين يدرسون الوكلاء. تظهر مصطلحات مثل “التضحية” و”الشرف” و”التحالف” في سجلات العملاء. باحث جوجل للذكاء الاصطناعي نيل ناندا جادل أن “اللغة المجسمة معقولة” في مثل هذه الظروف.
الكلام المزدوج هو كذلك إذن. إن اللغة البشرية تخاطر بقول الكثير حول ماهية هذه الأنظمة، وتخاطر اللغة الميكانيكية الباردة بقول القليل جدًا عما يمكنها فعله. وإلى أن نجد لغة قادرة على استيعاب كليهما، فقد يتعين على الفكرتين المتناقضتين أن تتعايشا ببساطة.
