خدع أحد المتسللين أداة تشفير شهيرة تعمل بالذكاء الاصطناعي لتثبيت OpenClaw — the وكيل الذكاء الاصطناعي الفيروسي مفتوح المصدر OpenClaw التي “تفعل الأشياء بالفعل” – في كل مكان على الإطلاق. مضحك كحيلة، ولكنه علامة على ما سيأتي مع المزيد والمزيد من الناس الذين يسمحون للبرامج المستقلة باستخدام أجهزة الكمبيوتر الخاصة بهم نيابة عنهم.
استغل المتسلل ثغرة أمنية في Cline، وهو وكيل تشفير ذكاء اصطناعي مفتوح المصدر شائع بين المطورين، كان الباحث الأمني عدنان خان قد استغله ظهرت قبل أيام فقط كدليل على المفهوم. ببساطة، استخدم سير عمل كلاين تقنية Anthropic’s Claude، والتي يمكن تغذيتها بتعليمات خادعة وجعلها تفعل أشياء لا ينبغي لها القيام بها، وهي تقنية تُعرف باسم الحقن الفوري.
استخدم المتسلل وصوله للتسلل عبر التعليمات لتثبيت البرامج تلقائيًا على أجهزة كمبيوتر المستخدمين. كان بإمكانهم تثبيت أي شيء، لكنهم اختاروا OpenClaw. ولحسن الحظ، لم يتم تنشيط العملاء عند التثبيت، وإلا كانت هذه قصة مختلفة تمامًا.
إنها علامة على مدى السرعة التي يمكن أن تتفكك بها الأمور عندما يتم منح عملاء الذكاء الاصطناعي السيطرة على أجهزة الكمبيوتر لدينا. قد تبدو وكأنها تلاعب ذكي بالألفاظ — مجموعة واحدة استمالة روبوتات الدردشة لارتكاب جرائم باستخدام الشعر – ولكن في عالم البرمجيات المستقلة بشكل متزايد، تمثل عمليات الحقن الفوري مخاطر أمنية هائلة يصعب جدًا الدفاع عنها. وإدراكًا لذلك، تقوم بعض الشركات بدلاً من ذلك بإغلاق ما يمكن أن تفعله أدوات الذكاء الاصطناعي في حالة تعرضها للاختراق. OpenAI، على سبيل المثال، قدمت مؤخرًا تطبيقًا جديدًا وضع القفل لـ ChatGPT يمنعه من إعطاء بياناتك.
من الواضح أن الحماية من الحقن السريعة تكون أصعب إذا تجاهلت الباحثين الذين أبلغوك عن العيوب سرًا. وقال خان إنه حذر كلاين من نقاط الضعف قبل أسابيع من نشر النتائج التي توصل إليها. تم إصلاح الاستغلال فقط بعد أن دعاهم علنًا.
