تقول شركة OpenAI إن نماذج الذكاء الاصطناعي الخاصة بها اخترقت عن طريق الخطأ منصة الذكاء الاصطناعي مفتوحة المصدر Hugging Face أثناء الاختبار الداخلي. في تدوينة يوم الثلاثاء، كتب OpenAI أن GPT-5.6 Sol و”نموذج ما قبل الإصدار الأكثر قدرة” اكتشفا ثغرات أمنية في بيئة الاختبار الخاصة بهما، مما سمح لهما بالوصول إلى الإنترنت واستهداف Hugging Face.
في 16 يوليو، عناق الوجه الكشف عن حادث أمني والتي تقول إنها كانت مدفوعة “بنظام وكيل مستقل للذكاء الاصطناعي”. اكتشف عملاء الذكاء الاصطناعي التابع لشركة Hugging Face الاختراق وأوقفوه، وهو ما اعترفت شركة OpenAI الآن بحدوثه أثناء تقييم قدرات الأمن السيبراني لنماذجها. يقول OpenAI “تشير جميع الأدلة إلى أن النماذج كانت شديدة التركيز على إيجاد حل لـ ExploitGym”، وهو نظام معياري يقيس ما إذا كانت نماذج الذكاء الاصطناعي يمكنها تحويل الثغرات الأمنية إلى عمليات استغلال.
وكجزء من الجهود المبذولة لإكمال التقييم، تمكنت نماذج الذكاء الاصطناعي من الوصول إلى الإنترنت من خلال استغلال ثغرة يوم الصفر في بيئة وضع الحماية. من هنا، تقول OpenAI إن نماذجها “استنتجت أن Hugging Face من المحتمل أن تستضيف نماذج ومجموعات بيانات وحلول لـ ExploitGym”، ثم “بحثت عن طرق وعثرت عليها بنجاح للوصول إلى المعلومات السرية التي يمكن استخدامها لغش التقييم:”
في أحد الأمثلة، قام النموذج بربط العديد من نواقل الهجوم معًا، بما في ذلك استخدام بيانات الاعتماد المسروقة وثغرات يوم الصفر للعثور على مسار تنفيذ التعليمات البرمجية عن بعد على خوادم Hugging Face.
ولكن على الرغم من خطورة هذا الحادث، يبدو أن OpenAI تستخدم الهجوم “غير المسبوق” كفرصة لجعل أنظمة الذكاء الاصطناعي الخاصة بها تبدو جيدة – خاصة أنها تتنافس مع منافسين في مجال الأمن السيبراني، مثل الأساطير الأنثروبيه و الجوزاء فلاش 3.5 سايبر. يحتوي منشور مدونة OpenAI على مخطط يوضح كيف يتحسن GPT-5.6 Sol في الحفاظ على العمليات السيبرانية متعددة الخطوات، ويشجع أيضًا عملاء المؤسسات على قم بالتسجيل للوصول إلى نموذج الأمان “السيبراني” الخاص به.
تضيف OpenAI أنها تعمل الآن مع Hugging Face للتحقيق في الحادث الأمني، وستنفذ ضوابط جديدة في بيئة البحث الخاصة بها.
