إنه يوم إنذار البنتاغون الذي يلوح في الأفق بشأن الأنثروبي: اسمح للجيش الأمريكي الوصول غير المحدد لتكنولوجيتها، بما في ذلك المراقبة الجماعية والأسلحة الفتاكة المستقلة بالكامل، أو من المحتمل أن يتم تصنيفها على أنها “خطر سلسلة التوريد” وربما تخسر مئات المليارات من الدولارات من العقود. وسط التصريحات والتهديدات العامة المتزايدة، ينظر العاملون في مجال التكنولوجيا في جميع أنحاء الصناعة إلى العقود الحكومية والعسكرية لشركاتهم ويتساءلون عن نوع المستقبل الذي يساعدون في بنائه.
بينما أمضت وزارة الدفاع أسابيع في التفاوض مع شركة أنثروبك بشأن إزالة حواجز الحماية الخاصة بها، بما في ذلك السماح للجيش الأمريكي باستخدام أهداف القتل بالذكاء الاصطناعي الخاصة بشركة أنثروبيك دون إشراف بشري، كان لدى OpenAI وxAI يقال وافقت بالفعل على مثل هذه الشروط، على الرغم من أن OpenAI كذلك يقال محاولة اعتماد نفس الخطوط الحمراء في الاتفاقيات الأنثروبولوجية. لقد ترك الوضع العام الموظفين في بعض الشركات التي لديها عقود دفاعية يشعرون بالخيانة. قال أحد موظفي Amazon Web Services: “عندما انضممت إلى صناعة التكنولوجيا، اعتقدت أن التكنولوجيا تهدف إلى جعل حياة الناس أسهل”. الحافة“ولكن يبدو الآن أن الأمر كله يتعلق بتسهيل مراقبة الأشخاص وترحيلهم وقتلهم.”
في المحادثات مع الحافة، أعرب الموظفون الحاليون والسابقون في OpenAI وxAI وAmazon وMicrosoft وGoogle عن مشاعر مماثلة حول المشهد الأخلاقي المتغير لشركاتهم. قامت مجموعات منظمة تمثل 700 ألف عامل في مجال التكنولوجيا في أمازون وجوجل ومايكروسوفت وغيرها وقعت على خطاب مطالبة الشركات برفض مطالب البنتاغون. لكن العديد منهم لم يروا فرصة كبيرة لأصحاب العمل – سواء كانوا متورطين بشكل مباشر في هذا الصراع أم لا – في استجواب الحكومة أو الرد عليها.
قال أحد مهندسي البرمجيات من شركة مايكروسوفت: “من وجهة نظرهم، فإنهم يرغبون في الاستمرار في جني الأموال دون الحاجة إلى الحديث عن ذلك”.
حتى الآن، صمدت الأنثروبيك على أرضها. الرئيس التنفيذي لشركة Anthropic داريو أمودي طرح أ إفادة وقال يوم الخميس إن “تهديدات البنتاغون لا تغير موقفنا: لا يمكننا بضمير حي أن نستجيب لطلبهم”. لكنه ذكر أنه لا يعارض على الإطلاق الأسلحة الفتاكة المستقلة في وقت ما في المستقبل، بل إن التكنولوجيا لم تكن موثوقة بدرجة كافية “اليوم”. وكتب في البيان أن Amodei عرضت الدخول في شراكة مع وزارة الدفاع في “البحث والتطوير لتحسين موثوقية هذه الأنظمة، لكنهم لم يقبلوا هذا العرض”.
ومع ذلك، في السنوات القليلة الماضية، قامت شركات التكنولوجيا الكبرى بذلك خففت قواعدها أو غيرت بيانات مهمتها للتوسع في العقود الحكومية أو العسكرية المربحة. وفي عام 2024، قامت شركة OpenAI بإزالة الحظر المفروض على حالات الاستخدام “العسكري والحربي” من شروط الخدمة الخاصة بها؛ بعد ذلك، وقعت صفقة مع شركة صناعة الأسلحة المستقلة Anduril ثم عقدًا مع وزارة الدفاع، وهذا الأسبوع فقط، Anthropic غيرت سياسة التوسع المسؤولة التي توصف بها في كثير من الأحيان، والتخلي عن تعهدها بالسلامة منذ فترة طويلة من أجل ضمان بقائها قادرة على المنافسة في سباق الذكاء الاصطناعي. كما سمحت شركات التكنولوجيا الكبرى مثل أمازون وجوجل ومايكروسوفت لوكالات الدفاع والاستخبارات باستخدام منتجات الذكاء الاصطناعي الخاصة بها، بما في ذلك يوافق البعض على العمل مع ICE على الرغم من الاحتجاج المتزايد من الجمهور والموظفين على حد سواء.
في السنوات الماضية، أدت مقاومة العاملين في مجال التكنولوجيا للشراكات والصفقات التي يعتبرونها ضارة بالمجتمع ككل في بعض الأحيان إلى تغيير كبير. في عام 2018، على سبيل المثال، نجح الآلاف من موظفي Google في الضغط على الشركة لإنهاء “مشروع مافنلقد قدمت الشراكة مع البنتاغون والعاملين في شركة مايكروسوفت للقيادة مناهضة لشركة ICE التماس موقعة من قبل حوالي 500 موظفي مايكروسوفت، على الرغم من مايكروسوفت لا يزال يعمل مع الوكالة. في عام 2020، بعد مقتل جورج فلويد، أصدرت شركات التكنولوجيا بيانات عامة والتزامات مالية تدعم حركة “حياة السود مهمة”. لكن في الأشهر الأخيرة، شهدت الصناعة واقعًا مختلفًا تمامًا: ثقافة الخوف والصمت، خاصة وسط التعاون مع إدارة ترامب وشركة ICE، والعاملين في مجال التكنولوجيا. قال مؤخرا الحافة.
لقد اتبعت الشركات خطى شراكات المراقبة والتكنولوجيا العسكرية الطويلة الأمد، والتي أصبحت أكثر تشدداً. ويشمل ذلك شركة Palantir التي شارك في تأسيسها بيتر ثيل، والتي أصبح مديرها التنفيذي أليكس كارب مؤخرًا ذكر للمساهمين أن “شركة بلانتير موجودة هنا لتعطيل المؤسسات التي نتشاركها مع الأفضل في العالم، وعندما يكون ذلك ضروريًا، لإخافة الأعداء وقتلهم في بعض الأحيان. ونأمل أن تكونوا مؤيدين لذلك”. (قامت منظمة حماية الديمقراطية، وهي منظمة غير ربحية، مؤخرًا بوضع تقرير رسالة مفتوحة الدعوة إلى إشراف الكونجرس على مطالب وزارة الدفاع بالاستخدام غير المقيد للذكاء الاصطناعي. )
ولم تستجب شركات OpenAI وGoogle وMicrosoft وxAI وAmazon على الفور لطلبات التعليق.
قال موظف سابق في XAI الحافة“يعمل الجميع بالفعل على الروبوتات القاتلة في هذه المرحلة”، مضيفًا أنه يعتقد أن الجميع سيتبعون خطى Palantir وAnduril وxAI، نظرًا لأن شعور الحكومة هو أنه إذا لم ترضخ الشركة، فهذا “ضد مصلحة البلاد، إلى حد ما”. وقال إن هناك “دفعة كبيرة للعمل مع الجيش، والاتجاه السائد هو أنه من الرائع القيام بذلك… أنت وطني إذا قمت بذلك”.
ووصف أحد موظفي جوجل الموقف بأنه “عرض سيطرة من هيجسيث مثير للاشمئزاز”. وأضاف: “مرارًا وتكرارًا، يقدم لنا الذكاء الاصطناعي خيارات حول من نريد أن نكون ونوع المجتمع والمستقبل الذي نريده. وهم يأتون إلينا بسرعة، ومعهم، في الواقع، قادة السلطة الأقل تفكيرًا والأقل مبادئًا التي يمكن أن نتخيلها. لا يسعني إلا أن أشكر منظمة الأنثروبيك على إصرارها على المسار اللائق واستخدام نفوذها – التي لا غنى عنها – لرسم مسار نحو عالم إنساني ومستقبل إنساني”.
قال موظف AWS الحافة أن “الحدود تآكلت بالتأكيد فيما يتعلق بالعملاء الذين ترغب شركات التكنولوجيا الكبرى في مغازلتهم” وأن هناك “تبييضًا متعمدًا لآثار الصفقات المربحة الجديدة”. وتذكرت مؤخرًا تلقيها بريدًا إلكترونيًا من أحد المسؤولين التنفيذيين في AWS يروج لعقد بقيمة تزيد عن 580 مليون دولار مع القوات الجوية الأمريكية، من بين شراكات أخرى، كدليل على نجاحات الذكاء الاصطناعي في أمازون، دون الاعتراف بالنطاق الأوسع أو الأضرار التي ينطوي عليها الأمر.
وقالت: “إذا كانت الحكومة عازمة على متابعة تقنيات مثل هذه، فيتعين عليها أن تبنيها بنفسها، وأن تكون مسؤولة عن تلك القرارات”.
ربما امتد التآكل إلى الثقافة الداخلية أيضًا، مما أدى إلى تطبيع فكرة أن الشركات يجب أن تراقب دائمًا. قالت موظفة AWS إنها وزملاءها يتم تعقبهم بشأن مدى استخدامهم للذكاء الاصطناعي في وظائفهم، وعدد المرات التي يعملون فيها من المكتب، والمزيد. وقالت: “أستطيع أن أرى نفسي وزملائي في العمل أصبحوا أقل حساسية تجاه المراقبة التي نتعرض لها في العمل، وأشعر بالقلق من أن هذا يعني أننا نطيع، ونمتثل، ونتخلى عن الكثير مقدمًا”.
قال أحد موظفي OpenAI إن الشعور العام السائد داخل صناعة الذكاء الاصطناعي خلال الأسابيع القليلة الماضية “أعاد فتح الباب أمام مزيد من النقاش… حول قيم التكنولوجيا ومستقبلها”. قال الموظف إن الوضع بين البنتاغون والأنثروبولوجيا، والعناوين الأخيرة لشركة ICE، والتقدم السريع في الذكاء الاصطناعي كانت من بين العوامل الرئيسية التي فتحت تلك المناقشات داخليًا.
ومع ذلك، فإن الأشخاص المهاجرين أو الذين هم في أوضاع أكثر ضعفًا هم أكثر خوفًا من التحدث، على حد قول موظف OpenAI.
قال الموظف السابق في XAI إن شركة Anthropic تبدو وكأنها في وضع يمكنها من قول لا والبقاء واقفة على قدميها. إن تركيزها على المؤسسات بدلاً من أعمال الذكاء الاصطناعي الاستهلاكية قد يجعلها أكثر استدامة حتى بدون العقود الحكومية، مما يوفر لها بعض النفوذ. قال أحد مهندسي البرمجيات في مايكروسوفت عن الأنثروبيك، متحدثاً بشكل عام: “لقد فوجئت برؤيتهم يقفون على شكل من أشكال المبادئ. ولا أعرف إلى متى سيستمر هذا الأمر”.
“هل ستستمر؟” يبدو أن السؤال على شفاه الجميع. لقد فعل البنتاغون ذلك بالفعل يقال طلبت من اثنين من كبار مقاولي الدفاع، بوينغ ولوكهيد مارتن، تقديم معلومات حول اعتمادهم على كلود من شركة أنثروبيك، في الوقت الذي تتحرك فيه لتصنيف أنثروبيك على أنه “خطر سلسلة التوريد”، وهو تصنيف مخصص عادة لـ تهديدات للأمن القومي ونادرًا ما يتم تعيينه لشركة أمريكية. إنه أيضًا يقال قد تفكر في استدعاء قانون الإنتاج الدفاعي لمحاولة إجبار شركة Anthropic على الامتثال لطلبها.
تمامًا كما هو الحال مع أي شركة أخرى في مجال الذكاء الاصطناعي، إذا تراجعت شركة Anthropic، كما قال موظف Microsoft، فستكون هناك فرصة ضئيلة لها أو أن يتراجع الآخرون عن الروبوتات القاتلة والمراقبة. “بمجرد دخولك وزارة الدفاع أو أي شيء نطلق عليه الآن… أعتقد أنه ربما يكون من الصعب عليهم أن يتمتعوا فعليًا بالرقابة التي يدعونها. سيكون من المربح أن يمنحوا أنفسهم الإذن للقيام بالشيء الذي يدر أكبر قدر من المال”.
وفي حالة مايكروسوفت نفسها، قال إنه لا يتوقع أن تلتزم الشركة بأي نوع من المبادئ الأخلاقية. وقد عملت الشركة على نطاق واسع مع قوات الدفاع الإسرائيلية، بما في ذلك المراقبة الجماعية للفلسطينيين والمعارضين، رغم احتجاج الموظفين. (قال ذلك أنهى بعض الأجزاء للشراكة العام الماضي.)
وقال موظف آخر في مايكروسوفت الحافة أنه على الرغم من أن “مايكروسوفت تلتزم بالتزام الذكاء الاصطناعي المسؤول، إلا أنها تحاول حاليًا اللعب على كلا الجانبين من أجل الربح بدلاً من الالتزام بشكل هادف بالذكاء الاصطناعي المسؤول”.
لكن هذا ليس بالأمر الجديد، كما قال أحد موظفي شركة الذكاء الاصطناعي الناشئة. في نظرها، كانت الحدود في كثير من الأحيان “غامضة، خاصة في مجال الذكاء الاصطناعي”، فيما يتعلق بأنواع الأشياء التي ترغب الشركات في السماح لها بالقوة التكنولوجية. “لقد كان الكثير منها يحدث تحت السطح طوال فترة وجود الذكاء الاصطناعي.”
وشدد موظف AWS على “أننا بحاجة إلى التضامن عبر التكنولوجيا ورؤية متماسكة يقودها العمال للذكاء الاصطناعي الآن أكثر من أي وقت مضى”.
وأضافت: “الضمانات التي تحاول أنثروبك الحفاظ عليها ليست مراقبة جماعية للأمريكيين ولا أسلحة ذاتية التشغيل بالكامل، وهو ما يعني فقط أنهم يريدون إنسانًا في الحلقة إذا كانت الآلة ستقتل شخصًا ما”. “حتى لو كانت هذه التكنولوجيا مثالية – وهي ليست كذلك – أعتقد أن معظم الأمريكيين لا يريدون آلات تقتل الناس دون إشراف بشري في أمريكا التي أصبحت دولة مراقبة جماعية مدعومة بالذكاء الاصطناعي”.
