يعترف Openai بأنه قام باختبار تحديث chatgpt “sychophant-y”
الأسبوع الماضي ، Openai سحب تحديث GPT-4O جعل ذلك الدردشة “الإغراء أو المقبول بشكل مفرط” – والآن شرح ما حدث بالضبط. في منشور مدونة منشور في يوم الجمعة ، قالت Openai إن جهودها من أجل “دمج ملاحظات المستخدمين والذاكرة والبيانات الجديدة” يمكن أن تؤدي جزئيًا إلى “تحول المقاييس على sycophancy”. ومع ذلك ، قال Openai ، قد يكون هذا “قد أضعف تأثير إشارة المكافآت الأولية لدينا ، والتي كانت تحتفظ بالتحقق.” تلاحظ الشركة أن ملاحظات المستخدم “يمكن أن تفضل أحيانًا استجابات أكثر قبولًا” ، فمن المحتمل أن تؤدي إلى تفاقم البيانات المقبولة بشكل مفرط. وقالت الشركة إن الذاكرة يمكن أن تضخيم sycophancy أيضًا. يقول Openai أن إحدى “القضايا الرئيسية” مع الإطلاق تنبع من عملية الاختبار. على الرغم من أن تقييمات النموذج غير المتصلة بالإنترنت واختبار A/B لها نتائج إيجابية ، فقد اقترح بعض المختبرين الخبراء أن التحديث جعل chatbot يبدو “بعيدًا قليلاً”. على الرغم من ذلك ، تقدم Openai إلى الأمام مع التحديث على أي حال. “لقد كانوا يلتقطون على نقطة عمياء في Evals ومقاييسنا الأخرى. لم يكن Evals في وضع عدم الاتصال واسعًا أو عميقًا بما يكفي للقبض على سلوك sycophant ردود الفعل المباشرة قبل بدء تشغيل أوسع. تخطط Openai أيضًا لضمان إدراك المستخدمين للتغييرات التي يقوم بها ChatGpt ، حتى لو كان التحديث صغيرًا. (tagstotranslate) AI
المصدر
