تتيح لك سورا الآن كبح جماح الذكاء الاصطناعي ، مما يتيح لك المزيد من القول حول كيف وأين تظهر إصدارات DeepFake منك على التطبيق. يهبط التحديث عندما يسارع Openai لإظهار أنه يهتم فعليًا بمخاوف مستخدميها باعتباره أمرًا يمكن التنفيذ يهدد تسونامي من الذكاء الاصطناعى بتولي الإنترنت.
تعد الضوابط الجديدة جزءًا من مجموعة أوسع من تحديثات عطلة نهاية الأسبوع التي تهدف إلى استقرار Sora وإدارة تخمير الفوضى في خلاصتها. سورا أساسا “tiktok ل Deepfakes، “مكان لصنع مقاطع فيديو مدتها 10 ثوانٍ من أي شيء ، بما في ذلك الإصدارات التي تم إنشاؤها من الذكاء الاصطناعى لنفسك أو غيرها (تضمين الصوت). يطلق Openai هذه المظاهر الافتراضية” Cameos “. يطلق عليهم النقاد كارثة تلوح في الأفق.
بيل بيبلز ، الذي يرأس فريق سورا في Openai ، قال يمكن للمستخدمين الآن تقييد كيفية استخدام الإصدارات التي يتم إنشاؤها من الذكاء الاصطناعى لأنفسهم في التطبيق. على سبيل المثال ، يمكنك منعك من الظهور في مقاطع الفيديو التي تنطوي على السياسة ، أو منعها من قول كلمات معينة ، أو – إذا كنت تكره الخردل – توقف عن الظهور في أي مكان بالقرب من البهارات الجهنمية.
توماس ديسون ، موظف Openai قال يمكن للمستخدمين أيضًا إضافة تفضيلات لمضاعفاتهم الافتراضية ، مثل ، على سبيل المثال ، جعلهم “ارتداء” CATPHE CATKER “في كل مقطع فيديو”.
الجمعيات موضع ترحيب ، لكن تاريخ من الروبوتات التي تعمل بذات منظمة العفو الدولية مثل ChatGpt و Claude تقدم نصائح حول المتفجرات أو الجرائم الإلكترونية أو الأسلحة الحيوية التي تشير إلى شخص ما ، على الأرجح سوف يكتشف طريقة حولهم. لقد قام الناس بالفعل بتخليص إحدى ميزات السلامة الأخرى في سورا ، وهي علامة مائية ضعيفة. وقال بيبلز إن الشركة “تعمل على” تحسين ذلك.
وقال بيبلز إن سورا ستستمر في “هيلكليف على جعل القيود أكثر قوة” ، و “ستضيف طرقًا جديدة لك للبقاء في السيطرة” في المستقبل.
في الأسبوع الذي تم إطلاقه منذ إطلاق التطبيق ، كانت سورا متواطئة في ملء الإنترنت بانحرف من الذكاء الاصطناعي. كانت الضوابط الفضفاضة – إلى حد كبير نعم أو لا لمجموعات مثل المشتركين أو الأشخاص الذين توافقهم أو “الجميع” – مشكلة خاصة. ال نجم غير مقصود من المنصة ، لا شيء سوى الرئيس التنفيذي لشركة Openai ، سام التمان ، أوضح الخطر ، الذي يظهر في مجموعة متنوعة من مقاطع الفيديو الساخرة التي تظهر له السرقة أو موسيقى الراب أو حتى شواء ميت بيكاتشو.
