مع الاكتتاب العام الأولي الذي يلوح في الأفق، والمنافسة الشديدة من الأنثروبيين، والمنافسين الصينيين والمنافسين ذوي الوزن المفتوح، فإن لدى OpenAI الكثير من الأسباب للتحرك بسرعة. بدلا من ذلك، فإنه ضرب الفرامل.
يوم الثلاثاء الشركة قال فقد أبطأت وتيرة بعض عمليات تطوير الذكاء الاصطناعي بينما شددت الإجراءات الأمنية والضمانات. وشمل ذلك توقفًا لمدة أسبوعين في التدريب على التعلم المعزز على “أحدث النماذج المخصصة للنشر”، والتأخير المستمر لـ “أكبر عملية تشغيل RL مخطط لها على الحدود”.
يعد هذا القرار اختبارًا عامًا جدًا لفكرة المدافعين عن سلامة الذكاء الاصطناعي دفعت ل لسنوات: يجب أن تكون الشركات على استعداد للخروج من سباق الذكاء الاصطناعي وإبطاء الأمور عندما تفشل إجراءاتها الوقائية في مواكبة ما تبنيه. ولكن مع استمرار السباق حولهم، هل سيحقق التباطؤ أي شيء؟
“لكي يكون التوقف مستداما، يجب أن يكون على مستوى الصناعة.”
على الرغم من كل الحديث عن التباطؤ، فإن OpenAI لا تقف ساكنة تمامًا. قالت الشركة إنها “تسرع” عملية التطوير، وهو مصطلح غامض وغير دقيق ومع ذلك تصبح جزء من قاموس الصناعة في الأشهر الأخيرة. ومن الناحية العملية، فإن التباطؤ محدود النطاق. يقول إعلان OpenAI إن الإيقاف المؤقت يغطي فقط النماذج المخصصة للنشر بينما يعزز الأمن والمراقبة قبل إجراء نوع الاختبارات حيث قد تكون النماذج قادرة على الخروج واختراق أهداف حقيقية. وهذا لا يعني بالضرورة أنه سيكون هناك تباطؤ كبير في التطوير الأوسع للشركة.
هناك بالطبع سبب وجيه للغاية وراء تركيز OpenAI على تأمين مثل هذه الأنظمة قبل اختبارها. في الشهر الماضي فقط، كشفت OpenAI أن نماذجها اندلعت من بيئة اختبار يفترض أنها آمنة واختراق منصة المطورين Hugging Face، دون ملاحظة OpenAI. دفع الحادث إلى مراجعة أوسع لممارسات الاختبار في الصناعة كشفت حلقات مماثلة تنطوي المزيد من النماذج من OpenAI، وكذلك نماذج من أنثروبي و ميتا. لدى OpenAI كل الأسباب لتجنب تكرار ذلك، خاصة مع تزايد التدقيق من المشرعين.
من الخارج، من الصعب معرفة مدى صدق OpenAI في التوقف من أجل السلامة فقط، خاصة عندما يكون الأمر كذلك شركة و كبير طاقم عمل يملك كان صاخبة جدا حول هذا الموضوع. لكن التزام الشركة بالسلامة أصبح موضع تساؤل في الأشهر الأخيرة بعد سلسلة من فرق السلامة رفيعة المستوى المغادرة و وحل فريق الاستعداد التابع لها. لم يستجب OpenAI ل الحافةطلب التعليق.
هناك أسباب وجيهة لأخذ تباطؤ OpenAI على محمل الجد. الخبراء الذين تحدثوا الحافة وأشار إلى تكاليف التباطؤ في وقت المنافسة الشديدة. يمنح كل تأخير المنافسين مزيدًا من الوقت للحاق بفارق الصدارة أو توسيعه. قال ماريوس هوبهان، الرئيس التنفيذي والمؤسس المشارك لشركة Apollo Research، وهي منظمة أبحاث سلامة الذكاء الاصطناعي: “نظرًا لكثافة سباق الذكاء الاصطناعي، فإن كل شخص لديه حافز للعمل بسرعة فائقة”. “إن التباطؤ الطوعي يؤدي إلى تفاقم وضعك في السباق، لذلك فهو ليس بالأمر الذي يمكن أن يفعله المختبر باستخفاف.”
يتناسب القرار أيضًا على نطاق واسع مع قرار OpenAI عقيدة السلامة المنشورةوقال آلان تشان، وهو زميل باحث في مركز أبحاث سياسات التكنولوجيا GovAI، إن الشركة تعمل على إطار الاستعداد الخاص بها، بالإضافة إلى أطر السلامة الخاصة بشركات الذكاء الاصطناعي الأخرى. وقال تشان: “المبدأ الأساسي هو: الاستمرار في التطوير و/أو النشر فقط عندما يكون لدينا وسائل التخفيف التي تمكننا من القيام بذلك بمخاطر مقبولة”. وكجزء من إجراءات السلامة الجديدة، قالت OpenAI إنها تخطط لمراجعة و”تطوير” إطار العمل – الذي يعود تاريخ معظمه إلى عام 2023، عندما كان أولاً منشورة – لحساب التقدم في نماذجها.
هناك أيضًا أسباب وجيهة للاعتقاد بأن الضمانات الجديدة ستجعل أنظمة OpenAI أكثر أمانًا، على الأقل على المدى القصير، على الرغم من أن الخبراء حذروا من صعوبة تقييم ذلك دون مزيد من المعلومات. وقال آدم جليف، المؤسس المشارك والرئيس التنفيذي لمنظمة FAR.AI لسلامة الذكاء الاصطناعي: “هذه خطوات جيدة، والتي إذا تم تنفيذها بشكل جيد، ربما تكون كافية لمنع الجيل الحالي من العوامل من التسبب في الضرر”. الحافة. “السؤال الرئيسي هو كيف ستواكب OpenAI الوتيرة مع زيادة القدرات.”
يشير سؤال جليف إلى مشكلة أوسع نطاقا: إذا تعثرت الضمانات الفنية مرة أخرى، فماذا سيحدث بعد ذلك؟ لم يكن هناك ما يتطلب من OpenAI التوقف والتقييم هذه المرة، وهو ما جعل استعدادها للقيام بذلك ذا معنى. لكن هذا يعني أيضًا أنه لا يوجد ما يضمن أن شركة OpenAI – أو أي شركة أخرى تعمل في مجال الذكاء الاصطناعي – ستتخذ نفس الاختيار في المرة القادمة.
“إن ضبط السرعة يشتري الوقت، وليس الأمان… ولا يمكن ارتجال استراتيجية ضبط السرعة الفعالة أثناء الأزمات”.
إن الاعتماد على الشركات للقيام بهذا الأمر بنفسها هو شكل محفوف بالمخاطر من أشكال الحوكمة، لا سيما في الصناعة، كما أشار هوبهان، حيث يوجد كل الحوافز للاستمرار. وصف نيك مويس، المدير التنفيذي لمنظمة سلامة وحوكمة الذكاء الاصطناعي غير الربحية The Future Society، الرقابة الذاتية بأنها المشكلة الهيكلية في قلب النهج الحالي لسلامة الذكاء الاصطناعي. وقال إنه يجب أن يكون من الممكن للحكومات أن تقرر ما إذا كان يجب على OpenAI أو أي شركة أخرى إيقاف تطوير التكنولوجيا التي تعتبر غير آمنة. وقال: “هذه هي الطريقة التي تعمل بها معظم الصناعات”، مشيراً إلى الأدوية، والبناء، والطائرات، وحتى المطاعم، باعتبارها قطاعات تتمتع بإشراف تنظيمي أقوى من الذكاء الاصطناعي.
كما أن التدابير الطوعية تهدد الصناعة بالتقارب على أدنى قاسم مشترك. وإذا كان التباطؤ يفرض تكلفة، فإن الشركات لديها الحافز لتبني التدابير التي يكون منافسوها على استعداد لقبولها فقط. ويصبح هذا الضغط حادا بشكل خاص مع احتدام السباق. ويرى مويس أنه إذا أبطأت شركة OpenAI التطوير بشكل متكرر في حين لم يفعلها منافسوها، “فسوف يتم استبدالها ببساطة بشركة أنثروبولوجية”. “لكي يكون التوقف مستداما، يجب أن يكون على مستوى الصناعة.”
إن السلامة المستدامة تحتاج إلى شيء أقوى من العمل التطوعي. وقال مويس إن الرقابة الحكومية يمكن أن تملأ هذا الفراغ، كما هو الحال في الصناعات الأخرى. ويمكن للتحقق المستقل أن يلعب دوراً أيضاً. وقال تشان إن التأكد من أن الشركات تنفذ بالفعل تدابير السلامة سيكون ذا أهمية خاصة حيث تصبح عمليات التخفيف الفنية مثل مراقبة الذكاء الاصطناعي أكثر تكلفة. واتفق معه هوبهان قائلاً: “من الصعب دائمًا معرفة من الخارج ما إذا كان المختبر صادقًا بشأن التوقف المؤقت أو السلامة على نطاق أوسع، لذا فإن الحصول على المزيد من الأدلة وطرف مستقل للتحقق من صحة الادعاء أمر في غاية الأهمية”.
حتى الإيقاف المؤقت الواضح تمامًا يكون مفيدًا فقط إذا حدث شيء ما بالفعل أثناءه. وقالت بريانا روزين، مديرة الأبحاث لأمن الحدود في معهد سياسات واستراتيجيات الذكاء الاصطناعي: “إن السرعة تشتري الوقت، وليس السلامة”. ويتلخص الهدف هنا في خلق مجال لالتقاط الأنفاس للشركات والحكومات لفهم المخاطر والاستجابة لها على النحو اللائق. وهذا يعني تحديد ما يمكن أن يؤدي إلى التباطؤ – وكذلك ما يحدث خلال التباطؤ والظروف اللازمة لإنهاء التباطؤ – في وقت مبكر. وقالت: “لا يمكن ارتجال استراتيجية التحرك الفعالة أثناء الأزمة”.
من الممكن أن يشكل تباطؤ OpenAI سابقة لهذه الصناعة. العديد من الخبراء الحافة وتحدثت عن أملها في أن تحذو الشركات الأخرى حذوها، سواء طوعًا أو لأن القواعد الأقوى تجبرها في النهاية على ذلك. ولكن في صناعة لا تزال تسيطر عليها نفسها إلى حد كبير، ليس هناك ما يمنع منافسيها – أو OpenAI نفسها – من السباق مباشرة لتجاوز تلك السابقة في صراع السلامة والسرعة التالي.
