الأنثروبي لديه أطلقت “الوضع التلقائي” ل كلود كود، أداة جديدة تتيح للذكاء الاصطناعي اتخاذ قرارات على مستوى الأذونات نيابة عن المستخدمين. وتقول الشركة إن هذه الميزة توفر للمبرمجين الحيويين بديلاً أكثر أمانًا بين الإمساك باليد المستمر أو منح النموذج مستويات خطيرة من الاستقلالية.
كلود كود هو قادرة على التصرف بشكل مستقل نيابة عن المستخدمين، وهي ميزة مفيدة ولكنها محفوفة بالمخاطر لأنها يمكنها أيضًا القيام بأشياء لا يريدها المستخدمون، مثل حذف الملفات، وإرسال البيانات الحساسة، وتنفيذ تعليمات برمجية ضارة أو تعليمات مخفية. تم تصميم الوضع التلقائي لمنع ذلك، ووضع علامة على الإجراءات التي يحتمل أن تكون محفوفة بالمخاطر وحظرها قبل تشغيلها ومنح الوكيل فرصة للمحاولة مرة أخرى أو مطالبة المستخدم بالتدخل.
في الوقت الحالي، يتوفر الوضع التلقائي فقط كمعاينة بحثية لمستخدمي خطة الفريق. يقول Anthropic إن الوصول سيتوسع ليشمل مستخدمي Enterprise وAPI في “الأيام المقبلة”.
تحذر Anthropic من أن الأداة تجريبية و”لا تقضي” على المخاطر تمامًا، وتوصي المطورين باستخدامها في “بيئات معزولة”.
