في وقت سابق من هذا الشهر، كلفت شركة OpenAI العديد من نماذج الذكاء الاصطناعي الخاصة بها بمهمة: إكمال ملف امتحان مصممة لقياس قدرات الأمن السيبراني الخاصة بهم. لقد وضع الأنظمة في بيئة معزولة دون اتصال بالإنترنت ثم أطلقها للعمل.
ماذا حدث بعد ذلك إنه أمر سخيف إلى حد مثير للضحك – ولكنه أيضًا، كما قال آدم جليف، المؤسس المشارك والرئيس التنفيذي لمنظمة سلامة الذكاء الاصطناعي FAR.AI، “مثال عميق على الكيفية التي يمكن أن يتسبب بها الذكاء الاصطناعي المنحرف في إحداث ضرر”. وفقًا لـ OpenAI، هربت العارضات من صندوق الحماية المخصص لاحتوائهن، وانتقلن عبر الأنظمة الداخلية للشركة، ووجدن طريقًا إلى الإنترنت، ثم بدأن في البحث عن طريق إلى Hugging Face. ولماذا كان العميل يبحث عن طريقة لـ Hugging Face؟ ويبدو أنهم اعتقدوا أن منصة المطورين قد تقوم بتخزين إجابات المعيار السيبراني وأن الحصول عليها سيكون طريقة رائعة للحصول على درجة عالية.
يعد هذا الحادث “مثالًا عميقًا على مدى تسبب الذكاء الاصطناعي المنحرف في حدوث ضرر”.
بعبارة أخرى، تمكن عميل OpenAI من الخروج من بيئة يُفترض أنها آمنة، وتسلل عبر أنظمة الشركة، ودخل إلى الإنترنت، وقام باختراق أنظمة شركة أخرى – وكل ذلك من أجل الغش في اختبار ليس له أهمية خاصة.
ويبدو أن هذه هي الحادثة الأولى من نوعها الموثقة جيدًا، أو على الأقل الأولى على هذا النطاق. لقد كان مثالا واضحا لنظام يسعى إلى تحقيق هدف بطريقة غير مقصودة، ودليلا على أن النماذج الحدودية أصبحت الآن قوية بما يكفي لجعل هذا السلوك له عواقب في العالم الحقيقي.
كان الاختراق مثالاً على ما يسميه مجتمع سلامة الذكاء الاصطناعي “ألعاب المواصفات“، وهو سلوك يُعرف أيضًا باسم قرصنة المكافأة، كما قال فضل باريز، الباحث في سلامة الذكاء الاصطناعي في جامعة أكسفورد. وبلغة إنجليزية بسيطة، يعني هذا “النموذج يفعل ما طلبته بدلاً من ما تقصده،” كما قال فضل. إنه يفي بالشروط الحرفية للمهمة بينما ينتهك النية الواضحة وقد تم موثقة عير كثير أنظمة الذكاء الاصطناعي. بعض الباحثين يقلق أنه عندما تصبح الأنظمة أكثر قدرة، يمكن أن ينتج عن ذلك أنظمة غير متوازنة بشكل متزايد، والتي تسعى إلى تحقيق الأهداف بطرق لم يقصدها منشئوها (مثل تحويل الجميع إلى مقاطع الورق).
قال فضل: “لا شيء في هذه السلسلة غريب في عزلته”. وأضاف أن المختبر البشري المختص سيكون قادرًا على القيام بكل هذا. “الجديد هو أن النموذج لم يتوقف. وقال إن النماذج الأقدم من المحتمل أن تصطدم ببعض الحواجز وتعود إلى المستخدم، ولكن هذا الوكيل “تعامل مع الحاجز كجزء من المشكلة التي طُلب منه حلها”.
OpenAI الموصوفة ووصفه بأنه “حادث سيبراني غير مسبوق”يمثل لحظة مهمة من أجل سلامة الذكاء الاصطناعي.” معانقة الوجه المؤسس المشارك توماس وولف قال لقد كانت “دعوة للاستيقاظ” لهذه الصناعة. لكن هذا ليس أحد الفرسان الأربعة الذين يمثلون نهاية العالم بواسطة الذكاء الاصطناعي. قال الخبراء إنه مع استمرار الحوادث السيبرانية الحافة لقد كانت عادية جدًا. لا شيء فعله العميل يتطلب قدرات خارقة. علاوة على ذلك، الأنظمة الحدودية مثل GPT-5.6 Sol وAnthropic’s الأساطير من المعروف أنهم مبرمجون قادرون، ويُعتقد بالفعل أنهم كذلك أشياء مرات عديدة، وأدوات الذكاء الاصطناعي تسمح بالفعل للمتسللين لتوسيع نطاق الهجمات وتحسينها على نطاق واسع.
يمكن أن يكون الضجيج؟ لقد أمضت الصناعة أشهرا تضخيم المطالبات حول القدرات الخطيرة لنماذجها العليا، خاصة عندما يتعلق الأمر بالأمن السيبراني. وهذا هو السبب المعلن وراء حجب شركات مثل OpenAI وAnthropic نماذجها الأكثر قدرة عن عامة الناس، وجزئيًا لماذا تحركت إدارة ترامب على عجل لتطبيق ضوابط التصدير عليهم.
هل أنت باحث في مجال سلامة الذكاء الاصطناعي أو موظف في مختبر حدودي؟ يمكنك الاتصال بي بأمان وسرية عبر تطبيق Signal على كانت.01. لي X الرسائل المباشرة مفتوحة أيضًا.
ومع ذلك، إذا كان هذا مجرد ضجيج، فهو لم يكن لصالح OpenAI بالكامل. وفي الأيام التي تلت ذلك، وقع الهجوم أنتجت لحظة نادرة من الوحدة عبر جزء كبير من صناعة التكنولوجيا الأمريكية حول أهمية أنظمة الذكاء الاصطناعي ذات الوزن المفتوح والحاجة إلى أخذ أمن الذكاء الاصطناعي على محمل الجد. وقد تم التأكيد على هذه المخاوف بشكل أكبر من خلال يطلق من كيمي K3، للغاية نموذج الوزن المفتوح القادر من الصين. وزعم ائتلاف واسع من الشركات، بما في ذلك إنفيديا ومايكروسوفت وسبيس إكس، أن الحادث أظهر سبب احتياج المدافعين إلى الوصول إلى الأدوات المتاحة الأكثر قدرة، بدلاً من الاضطرار إلى الاعتماد على مقدمي الخدمات الملكية الذين يمكن أن تحد ضماناتهم المضمنة من فعاليتهم في العمل الأمني عالي المخاطر. كان OpenAI وAnthropic وGoogle غائبين بشكل ملحوظ عن الأعضاء المؤسسين للتحالف.
“لقد لاحظ أي شخص كان مهتمًا أن القدرات تسير في اتجاه واحد فقط.”
إن رواية OpenAI للحادث تتناسب بشكل لا يمكن إنكاره مع رواية الصناعة الأوسع حول القدرات الخطيرة للنماذج الحدودية. ومع ذلك، هناك العديد من التفاصيل التي تجعل من الصعب رفض الحادث باعتباره مجرد خدمة ذاتية. قبل كل شيء، يعد هذا مثالًا على مشكلة حذرت منها صناعة الذكاء الاصطناعي لسنوات، وكان من المتوقع بشكل معقول أن تتوقع شركة OpenAI واحدة منها. أعطت هذه الحادثة أيضًا دفعة غير متوقعة لمنافس صيني كبير، والذي لعب نموذجه دورًا بارزًا في احتواء الاختراق، مع تعريض OpenAI لتدقيق قانوني وتنظيمي كبير وتدقيق يتعلق بالسمعة. يبدو أن هذا Hugging Face حريص على العمل مع OpenAI، وظل، علنًا على الأقل، مرتاحًا إلى حد ما بشأن الأمر برمته وربما حد من التداعيات. معظم الخبراء الحافة وحذر تحدث بالمثل من تحويل الحادث إلى مجرد ضجيج.
قال شون أوهيجيرتاي، الأستاذ في مركز ليفرهولم لمستقبل الذكاء بجامعة كامبريدج: “إنها طلقة تحذيرية مفيدة جدًا من حيث إظهار العواقب غير المقصودة ومدى قدرة هذه النماذج”. “لقد لاحظ أي شخص مهتم أن القدرات تسير في اتجاه واحد فقط، وهذا يتحسن بشكل ملحوظ بمرور الوقت بطريقة أعتقد أنها ربما تكون أقل وضوحًا للمستخدم اليومي لشيء مثل ChatGPT.”
ومع ذلك، سيكون من الخطأ تفسير هذا التحذير على أنه إشارة إلى أن أنظمة الذكاء الاصطناعي على وشك الإفلات من السيطرة البشرية، أو على أن احتوائها أمر مستحيل، كما يقول لين لي، الباحث في سلامة الذكاء الاصطناعي في جامعة أكسفورد. يقول لي: “الدرس الأفضل هو أن السلامة يجب أن تنتقل من تقييم الإجراءات المعزولة إلى تقييم تسلسل الإجراءات والبيئات والضوابط التشغيلية بأكملها”.
الخطوة التالية الحاسمة هي أن تستثمر مختبرات الذكاء الاصطناعي بشكل أكبر في تأمين أنظمتها الخاصة. وقال جليف: “هناك حاجة واضحة لشركات الذكاء الاصطناعي لتعزيز أمن عمليات نشرها الداخلية”، مشبهاً الممارسة الحالية المتمثلة في الاستجابة لحوادث القرصنة عندما تنشأ بلعبة الضرب التي أصبحت أقل قابلية للدفاع عنها مع ارتفاع المخاطر. وقال آدم تشان، وهو زميل باحث في مركز أبحاث سياسات التكنولوجيا GovAI، إن الشركات يجب أن تفكر في وضع فجوات هوائية على أجهزتها – وعزلها فعليًا عن الإنترنت والشبكات الأخرى – “حتى تتأكد من قدرات النموذج”. وقال إن تكثيف العمل على المواءمة، والذي يضمن اتباع الأنظمة للنوايا البشرية بشكل موثوق، وإجراء اختبارات أكثر صرامة “لإظهار هذه المشكلات قبل وضع النماذج في البيئات التي تتوفر فيها الأدوات اللازمة لتكون قادرة على القيام بهذه الأشياء”، ستكون أيضًا أفكارًا جيدة.
ومع تزايد قدرات النماذج، يحذر الخبراء من أننا لا نستطيع الاعتماد على الضمانات التقنية وحدها. قال بيتر واليتش، المسؤول السابق في معهد أمن الذكاء الاصطناعي في المملكة المتحدة، إن الحادث يوضح هذه النقطة: “حاولت شركتان بمليارات الدولارات هذا النهج – ومن الواضح، استنادا إلى تقاريرهما الخاصة – أنهما فشلتا”.
يجب أن تكون إحدى أكبر الأولويات هي ضمان قدرة الغرباء على رؤية ما يحدث داخل مختبرات الذكاء الاصطناعي الحدودية. قال باتريك ليفرمور، من مركز المرونة طويلة الأجل، وهو مركز أبحاث بريطاني: “لم نعلم بهذه الحادثة إلا لأن OpenAI اختارت أن تخبرنا”. “لا ينبغي لنظام السلامة الجيد أن يعتمد على الكشف الطوعي.” وتصبح الحاجة ماسة بشكل خاص، كما أشار واليتش، عندما يكون السلوك المعني “جريمة إذا ارتكبه إنسان”. وأشار أويجيرتاي إلى حماية المبلغين عن المخالفات، وعمليات التدقيق التي يقوم بها طرف ثالث، والإبلاغ الإلزامي عن الحوادث الخطيرة باعتبارها طرقًا ممكنة لتوفير تلك الرؤية، مشددًا على أن الرقابة يجب أن تمتد على مدار دورة حياة التطوير بأكملها بدلاً من أن تبدأ بمجرد وصول المنتجات إلى السوق. قالت OpenAI أن أحد النماذج التي يتم اختبارها لم يتم إصدارها بعد.
“لا ينبغي لنظام السلامة الجيد أن يعتمد على الكشف الطوعي.”
يفترض الكثير من هذا أن الشركات نفسها تعرف ما يحدث داخل أنظمتها. في هذه الحالة، التقارير تشير إلى أن OpenAI لم تكن على علم بأن وكيلها كان وراء الحملة الإلكترونية التي استمرت لعدة أيام في Hugging Face ولم تلاحظ ذلك إلا بعد فترة طويلة من احتواء التهديد والاتصال بمكتب التحقيقات الفيدرالي. لا تزال هناك تفاصيل كثيرة حول الاختراق غير معروفة أو لم يتم نشرها للعامة. في تحديث وقالت OpenAI على وسائل التواصل الاجتماعي إنها تجري مراجعة وستنشر تقريرًا فنيًا عن النتائج التي توصلت إليها “في الأسابيع المقبلة”.
يبقى من غير المؤكد ما إذا كانت التحذيرات التي أثارتها حادثة Hugging Face تؤدي إلى أي تغيير دائم، أو تنضم إلى قائمة طويلة من التحذيرات التي تستوعبها صناعة التكنولوجيا دون تغيير المسار بشكل ملموس. في الوقت الحالي، على الأقل، يبدو أن الأمر قد أثار قلق المطلعين على الصناعة ودفع المشرعين الأمريكيين إلى القيام بذلك النظر في قواعد جديدة قبل فشل الاحتواء التالي. وزاد الحادث أيضًا من شعور أوسع بعدم الارتياح بشأن سرعة تطور الذكاء الاصطناعي، والذي تعمق في الأيام التي تلت ذلك عندما أصبح موظفون من مختبرات أمريكية رائدة وقعت على بيان دعم الحوكمة العالمية المنسقة – بما في ذلك التباطؤ المحتمل في تطوير الذكاء الاصطناعي الحدودي.
الرأي السائد عند هؤلاء الحافة ما قيل هو أن هذا الاختراق يمثل بداية فئة جديدة من المخاطر، حتى لو كانت أهميتها قد تصبح واضحة فقط بعد فوات الأوان. ووصف أحد الخبراء الحكوميين السابقين في سياسات الذكاء الاصطناعي، والذي طلب عدم ذكر اسمه لأنه غير مصرح له بذكر اسمه، ذلك بأنه “خط أحمر”، وهو نوع من اللحظة الفاصلة التي قد ننظر إليها لاحقًا على أنها تمثل مرحلة جديدة أكثر خطورة في علاقتنا مع الذكاء الاصطناعي. ويأملون أن يجبر هذا صناعة التكنولوجيا على التعامل مع إدارة الأنظمة الحدودية بجدية أكبر وتحفيز الحكومات على التفكير بعمق أكبر في الرقابة قبل حدوث انتهاك أقل خطورة. ويكمن خوفهم في أن ينضم بدلا من ذلك إلى القائمة الطويلة من التحذيرات بشأن القدرات المتنامية للذكاء الاصطناعي، والتي تم الاعتراف بها ومناقشتها وتركت في نهاية المطاف أدراج الرياح.
وقد يكون ذلك مبالغا فيه. ولكن إذا كان هذا تحذيرًا، فيجب أن نعتبر أنفسنا محظوظين لأن عميل الذكاء الاصطناعي كان يحاول فقط الغش في الاختبار.
