اعتاد ديفيد روبنسون على كتابة تقارير السلامة التي رافقت كل إصدار رئيسي للنماذج في OpenAI. وقد استقال هذا الأسبوع من منصبه ويتحدث الآن في افتتاحية في الأطلسي.
من المفهوم أن تشعر ببعض السخرية تجاه خروج الجميع فجأة من الأعمال الخشبية للتحذير من مدى خطورة الشيء الذي ساعدوا في بنائه. لقد فعلوا، بعد كل شيء، هذه الفوضى. لكن هذا لا يعني أننا يجب أن نتجاهل تحذيراتهم.
يقول روبنسون إن الثقافة في الصناعة معطلة بشكل أساسي. إن هذه مشكلة أعمق من مجرد فرض بعض القواعد أو اللوائح الجديدة حول كيفية تعاملنا مع نماذج التدريب. ويقول إن وادي السليكون يعمل “بثقة شديدة” و”سباقات سريعة دائمة”، حيث يبني نماذج أكبر وأفضل مع “تفاؤل بلا عوائق” يتجاهل المشاكل المحتملة أو يقلل من شأنها.
ويقول إن الوقت قد حان لشركات الذكاء الاصطناعي لتطوير شعور بالتواضع والنظر خارج عالم صناعة التكنولوجيا المنعزل الذي يتحرك بسرعة ويكسر الأشياء. وعلى وجه التحديد، يقول إن الذكاء الاصطناعي يحتاج إلى ضمانات على المستوى النووي:
ونظراً لمخاطر اليوم، فإن المختبرات الحدودية تحتاج إلى أن تعمل مثل محطات الطاقة النووية أو المطارات المزدحمة، مع طبقات من التكرار والتخطيط الدقيق الذي يستغرق وقتاً طويلاً، حتى لا يفتح الخطأ البشري العرضي الحتمي الباب أمام الكارثة.
