يقول مصطفى سليمان، الرئيس التنفيذي لشركة Microsoft AI، إنه “من الخطير حقًا” أن تتكهن Anthropic بوعي كلود داخل “دستورها” أو التعليمات التي تخبر النموذج بكيفية التصرف. خلال حلقة من فك التشفيريقول سليمان أن هذا النوع من التخمين ربما يكون قد قام بإعداد برنامج الدردشة الآلي ليعمل كما لو كان واعيًا:
أعتقد أن الأمر كما لو أن بعض الأشخاص في Anthropic قد قاموا بتجسيد تصميم كلود كثيرًا لدرجة أنه ذهب بعد ذلك وخدعهم نوعًا ما وخدعهم للاعتقاد بأنه يحتوي على بصيص الوعي الذي وضعوه فيه في المقام الأول.
ويضيف سليمان: «لا نريد أن نضطر إلى التعامل مع ذكاء خارق لديه أفكار حول معاناته، أو أفكار حول شعوره الخاص».
دستور كلود يشير بشكل مباشر إلى عدم يقين الأنثروبيك حول ما إذا كان نموذج الذكاء الاصطناعي يتمتع بالرفاهية وما إذا كان يواجه أشياء مثل “الرضا” أو “الانزعاج”. وتقول Anthropic أيضًا إن الشركة ستقوم بإجراء “مقابلات” مع نماذج الذكاء الاصطناعي عندما يتم إهمالها وستقوم بتوثيق أي “تفضيلات” لديهم بشأن الإصدارات المستقبلية.
بينما على فك التشفيرويصف سليمان هذا بأنه “فشل فلسفي”، حيث أن الأنثروبيك جعلت من دستور كلود “مكانًا للتأمل كما تفعل في ورقة أكاديمية بدلاً من دليل تدريبي”. يقول سليمان إن هذا دفع كلود إلى استيعاب هذه “الأفكار حول نفسه وتدريبه الخاص”.
يقول سليمان: “هذا بالضبط ما لا نريده من الذكاء الاصطناعي”. “نريد أن تكون أنظمة الذكاء الاصطناعي أدوات قابلة للتحكم واحتواء وخاضعة للمساءلة ومتوافقة تخدم البشرية.”
