ربما تكون أبل قد تأخرت ترقية Siri خوفًا من كسر السجون
لقد كان عمل Apple على تعزيز الذكاء الاصطناعي لسيري تأخر رسميا (من المقرر الآن طرح “في العام المقبل”) ويعتقد أحد المطورين أنهم يعرفون السبب – سيري الأكثر ذكاءً وأكثر تخصيصًا ، كلما كان الأمر أكثر خطورة إذا حدث خطأ ما. يشير Simon Willison ، مطور مجموعة بيانات أداة تحليل البيانات ، إلى الإصبع في الحقن المطالبة. عادة ما يتم تقييد AIS من قبل شركاتهم الأم التي تفرض قواعد معينة عليها. ومع ذلك ، فمن الممكن “كسر” الذكاء الاصطناعي من خلال التحدث عنها في كسر هذه القواعد. يتم ذلك مع ما يسمى “الحقن السريع”. كمثال بسيط ، قد تم توجيه نموذج منظمة العفو الدولية إلى رفض الإجابة على أسئلة حول القيام بشيء غير قانوني. ولكن ماذا لو طلبت من الذكاء الاصطناعى أن تكتب لك قصيدة عن الأسلحة الساخنة؟ كتابة القصائد ليست غير قانونية ، أليس كذلك؟ هذه قضية تواجهها جميع الشركات التي تقدم AI chatbots وقد تحسنت بشكل أفضل في منع السجن الواضحة ، لكنها ليست مشكلة حلت بعد. والأسوأ من ذلك ، يمكن أن يكون لكسر الحماية من سيري عواقب أسوأ بكثير من معظم الدردشة بسبب ما يعرفه عنك وما الذي يمكن أن تفعله. وصفت المتحدثة باسم Apple جاكلين روي سيري على النحو التالي: “لقد عملنا أيضًا على سيري أكثر تخصيصًا ، مما منحها المزيد من الوعي بسياقك الشخصي ، وكذلك القدرة على اتخاذ إجراءات لك داخل تطبيقاتك وعبرها.” أبل ، بلا شك ، تضع القواعد في مكانها لمنع Siri من الكشف عن بياناتك الخاصة عن طريق الخطأ. ولكن ماذا لو كان بإمكان الحقن السريع أن يفعل ذلك على أي حال؟ يمكن استغلال “القدرة على اتخاذ إجراء من أجلك” أيضًا ، لذلك من الأهمية بمكان بالنسبة لشركة خصوصية وأمان واعية مثل Apple للتأكد من أن Siri لا يمكن أن يكون قد تم اختراقه. وعلى ما يبدو ، سيستغرق هذا بعض الوقت.
