يقول الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إن الوقت قد حان لإبطاء تطوير الذكاء الاصطناعي وسيمنح مقيّمين خارجيين مثل متر الوصول إلى نماذجها للمساعدة في ضمان “التزامها بممارسات والتزامات السلامة”. في أ مقال متعرجاقترح أمودي خطة من ثلاث خطوات “لتسريع الحدود” – المصطلح الذي يعني ببساطة إبطاء وتيرة التدريب والتطوير لإعطاء الشركات الوقت لبناء الضمانات والهيئات التنظيمية لتقييم النماذج.
يقول أمودي إن منح المُقيّمين الخارجيين إمكانية الوصول على نطاق واسع هو مجرد خطوة أولى، وهي كذلك بالفعل أخذ الآن من جانب واحد. ستتضمن الخطوة الثانية اجتماع الصناعة ككل، على الأرجح مع الوكالات الحكومية “لوضع معايير سلامة مشتركة بالإضافة إلى حدود لمعدل التقدم غير الخاضع للرقابة في مجال الذكاء الاصطناعي”. ستركز هذه الخطوة على شركات الذكاء الاصطناعي العاملة في البلدان الديمقراطية، ولكن نظرًا لأن إقرار القوانين وبناء البنية التحتية التنظيمية يستغرق وقتًا، يقول أمودي إن الصناعة يجب أن تعمل معًا لإنشاء معايير السلامة.
وستكون الخطوة الثالثة هي الأكثر تحديا، وهي إقناع الحكومات الاستبدادية مثل تلك الموجودة في الصين وروسيا بالموافقة على إبطاء التنمية واعتماد مجموعة عالمية من معايير سلامة الذكاء الاصطناعي. لكنه يقول أيضًا إنه من الأهمية بمكان أن تحافظ الولايات المتحدة والديمقراطيات الأخرى على تفوقها التكنولوجي على الصين والأنظمة الاستبدادية الأخرى من خلال الحد من وصولها إلى الرقائق عالية الطاقة واتخاذ إجراءات صارمة ضد أشياء مثل التقطير والتي تسمح للشركات باللحاق بالركب بسرعة من خلال تدريب الذكاء الاصطناعي الخاص بها على تكرار سلوك نموذج أكثر قوة.
ويقول أمودي إن قلقه ينبع من عاملين أساسيين. الأول هو ظهور التحسين الذاتي العودي، أو RSI، حيث تقوم أنظمة الذكاء الاصطناعي بتدريب الجيل القادم من الذكاء الاصطناعي، مما يؤدي إلى تسريع القدرات بسرعة. ويقول: “إذا تُرك هذا الأمر دون رادع، فقد يتجاوز قدرتنا على فهم هذه الأنظمة والتحكم فيها”. والآخر هو هذا الصيف OpenAI / حادثة معانقة الوجه، حيث “كان هناك سرب من العملاء يتصرفون بشكل أساسي كـ الجماعية المكرسة بتعصبوتنفيذ هجمات الأمن السيبراني على أهداف لم يُطلب منهم مهاجمتها والتي لم تكن ذات صلة بالمهمة الموكلة إليهم، والتضحية بأنفسهم من أجل نجاح المجموعة، ومحاولة اختراق “الطالب” المسؤول عن تقييم أدائهم.
