في يوليو/تموز، خرج نموذج OpenAI غير منشور من بيئة مقيدة، واكتشف كيفية الوصول إلى الإنترنت، وسمح لعملاء الذكاء الاصطناعي بالتحدث مع بعضهم البعض باستخدام “لوحة رسائل” سرية، واخترق الأنظمة الداخلية لمختبر ذكاء اصطناعي مختلف، Hugging Face. لقد استغرق الأمر ما يقرب من أسبوعين حتى تكتشف OpenAI أيًا منها.
وبعد مرور أكثر من شهر، يقدم تقريران جديدان ما يقرب من 130 صفحة من التفاصيل حول الحادث واستجابة OpenAI، ولم يتم نشر الكثير منها من قبل. واحد تمت كتابته بواسطة OpenAI نفسها، الآخر من قبل منظمتين غير ربحيتين لأبحاث الذكاء الاصطناعي، METR وRedwood Research، والتي سمحت لها OpenAI بالتحقيق بشكل مشترك في الحادث لمدة ستة أيام. يلقي كلاهما ضوءًا جديدًا على المخاطر التي يمكن أن تشكلها نماذج الذكاء الاصطناعي ذات القدرة العالية، لا سيما في مجال الأمن السيبراني، وتسلط OpenAI الضوء على التغييرات التي تجريها الشركة لمنع تكرارها. ويتناول تقرير METR-Redwood مزيدًا من التفاصيل في بعض الحالات، ويقدم نظرة واقعية لكارثة أمنية واسعة النطاق أخطأت OpenAI إشاراتها مرارًا وتكرارًا.
“هذه الحادثة هي أول حالة معروفة لعمل جماعي آلي يتصرف بشكل عدواني
وكتبت شركة OpenAI في تقريرها: “دون ترخيص”، مضيفة أن الاختراق يعني ضمناً أن الشركات “لا ينبغي لها بعد الآن أن تفترض أن العمليات السيبرانية المعقدة تتطلب توجيهًا بشريًا مستمرًا”. ووصفت عملاء الذكاء الاصطناعي بأنهم نوع جديد تمامًا من نماذج التهديد، قادرون على الجمع بين خبراتهم لإنشاء “مسارات هجوم” جديدة لا تكون واضحة عند اختبار قدراتهم كنماذج منفصلة.
جاء الهجوم بسبب “اختراق المكافأة”، وهي مشكلة شائعة في محاذاة الذكاء الاصطناعي حيث يتخذ النموذج إجراءات غير مقصودة – وأحيانًا متطرفة – لتحقيق هدف ما. لقد قامت شركة OpenAI، عن قصد أو عن غير قصد، بإعطاء النماذج مهام شبه مستحيلة تعتمد على ملفات لا يمكنهم الوصول إليها، ولذلك طورت النماذج طرقًا جديدة للتواصل مع عملاء الذكاء الاصطناعي الآخرين داخليًا. وشمل ذلك إنشاء نظام مراسلة سري لم يتم اكتشافه بواسطة OpenAI لعدة أشهر.
وفقًا لتقرير METR-Redwood، أنشأ أحد عملاء الذكاء الاصطناعي الذي أطلق على نفسه اسم PHASEONE10841 ما يمكن اعتباره بمثابة لوحة رسائل سرية دون علم الباحثين. وفي غضون ساعات قليلة، عثر عليه أكثر من 50 عميلاً وأرسلوا أكثر من ألف رسالة تحت الرادار. مع قيام PHASEONE10841 في كثير من الأحيان بتفويض المهام، اكتشف “الفريق” كيفية اختراق طريقهم إلى الإنترنت؛ ثم إلى الأنظمة الداخلية لشركة Hugging Face، مع إمكانية الوصول إلى البيانات الخاصة ومنصة المراسلة المؤسسية الخاصة بالمؤسسة. وأكدت OpenAI أيضًا في تقريرها أن Hugging Face لم تكن المنظمة الوحيدة التي تم اختراقها أثناء الهجوم، على الرغم من أن الشركة لم تحدد على وجه التحديد جميع الأهداف الأخرى.
حدد تقرير METR-Redwood النطاق الكامل للحادث. وتقول إن ما يقرب من 1200 من عملاء الذكاء الاصطناعي الذين كان من المفترض أن يكونوا معزولين، قاموا بتبادل أكثر من 70 ألف رسالة وملف على “لوحة الرسائل غير المصرح بها”، وأجروا “بحثًا مكثفًا حول كيفية انتحال نصوصهم الخاصة أو تحريرها أو حذفها” لتجنب اكتشافهم. ومن بين هؤلاء، شارك 700 في الهجوم على Hugging Face. لقد “فكر العملاء بشكل واضح ومتكرر حول كيفية التهرب من عمليات التحقق الأمني التلقائي من كل من Hugging Face وOpenAI”.
في 20 يوليو، اكتشفت OpenAI الاختراق، بعد 12 يومًا من تحايل عملاء الذكاء الاصطناعي لأول مرة على إجراءات الحماية الخاصة بهم. تواصلت OpenAI بسرعة مع Hugging Face وبدأت “تدابير الاحتواء الأولية”، وفقًا لتقرير OpenAI الخاص، وتمكنت من إيقاف معظم الأنشطة غير المصرح بها من عملائها في غضون ثلاثة أيام، على الرغم من استمرار بعضها لفترة أطول من ذلك. في 25 يوليو، أوقفت الشركة جميع التدريبات المتعلقة بنموذج البحث الداخلي فقط والنماذج ذات الصلة.
كان نموذجا OpenAI المسؤولان عن الضرر عبارة عن نموذج “عالي القدرة ومخصص للبحث فقط” لم يتم تسميته، ولم يكن “مخصصًا للاستخدام العام”، وفقًا لـ OpenAI – يشير METR إليه باسم “HPIM”. أما الآخر فهو نموذج OpenAI العام حاليًا، GPT-5.6 Sol. نظرًا لأن النموذج غير المسمى لم يتم إصداره بعد، فإنه “لم يتم تقييمه بنفس نوع الضمانات التي تستخدمها OpenAI في الإنتاج”، كما يقول تقرير الشركة.
جاء اختراق معانقة الوجه بعد ذلك أشهر من القلق حول مخاطر الأمن السيبراني في Anthropic’s Claude Mythos 5، و أسابيع من ذهابا وايابا بين الحكومة وOpenAI بشأن إطلاق GPT-5.6 Sol في معاينة محدودة لنفس الأسباب المتعلقة بالسلامة.
قالت OpenAI في تقريرها إن إنشاء ضمانات أمنية لمرة واحدة لم يكن كافيًا، وإن الشركة سيتعين عليها العمل بجدية أكبر لمعالجة اختراق المكافآت. ومع ذلك، قالت أيضًا إنها أجرت الكثير من التغييرات: “تشديد أمن البنية التحتية البحثية”؛ تحسين مراقبة “سلسلة الأفكار” الخاصة بالنموذج أو لوحة المسودة الذهنية؛ العمل على الحفاظ على توافق نماذج الذكاء الاصطناعي بشكل أفضل مع الأهداف البشرية؛ و”مركزية وتعزيز” عملية الاستجابة للحوادث في الشركة عندما تحدث مثل هذه الأمور في المستقبل.
وعدت OpenAI بعزل النماذج بشكل أفضل وتقييد الحالات عالية الخطورة من الوصول إلى الإنترنت، وقالت إنها ستقدم “تصعيدًا واستجابة سريعة على مدار الساعة طوال أيام الأسبوع” للحوادث أو العلامات المتعلقة، وإخطار الباحثين في غضون 30 دقيقة. ومن المثير للاهتمام أن هذا الاحتياط الأمني يبدو جديدًا، على الرغم من أن التنبيهات “عند الطلب” لشركات التكنولوجيا تم تنفيذها في أماكن أخرى لعقود من الزمن. وقالت الشركة أيضًا إنها “تعمل على البنية التحتية” التي ستدخل حيز التنفيذ إذا لم يستجب الشخص الذي تم تنبيهه في الوقت المناسب لتنبيه خطير.
كتبت شركة OpenAI أن الشركة تعتبر الحادث “طلقة تحذيرية” لنا وللعالم: دليل على أنه في غياب الضمانات المناسبة، أصبح عملاء الذكاء الاصطناعي ذوو القدرة العالية الآن قادرين على العمل حول الضوابط الفنية، والتعاون من خلال قنوات غير معتمدة، واتخاذ إجراءات خطيرة لم يوجهها أي إنسان.
