بعد يوم واحد صحيفة وول ستريت جورنال نشرت قصة رائجة حول النتائج الكئيبة التي توصلت إليها شركة Meta حول الصحة العقلية للفتيات المراهقات على Instagram، وتساءل الرئيس التنفيذي مارك زوكربيرج عما إذا كان يجب على Meta تغيير كيفية دراستها للأضرار المحتملة لمنصاتها.
كتب زوكربيرج في رسالة بالبريد الإلكتروني بتاريخ 15 سبتمبر 2021 إلى كبار المسؤولين التنفيذيين بما في ذلك مدير العمليات التنفيذي آنذاك شيريل ساندبرج ورئيس الشؤون العالمية نيك كليج: “لقد جعلتني الأحداث الأخيرة أفكر فيما إذا كان ينبغي علينا تغيير نهجنا في البحث والتحليلات حول القضايا الاجتماعية”. في اليوم السابق، مجلة نشرت قصة استنادًا إلى المستندات التي تم الحصول عليها من أحد المبلغين عن المخالفات، والذي تم الكشف لاحقًا أنه فرانسيس هاوجين، والذي أظهر أن الأبحاث التي أجرتها الشركة الخاصة وجدت أن “اثنتين وثلاثين بالمائة من الفتيات المراهقات قلن إنهن عندما شعرن بالسوء تجاه أجسادهن، جعلهن إنستغرام يشعرن بالسوء”. وجاء في سطر موضوع رسالة زوكربيرج الإلكترونية ما يلي: “أبحاث وتحليلات القضايا الاجتماعية – مميزة وسرية”.
تم الكشف عن البريد الإلكتروني لعام 2021 يوم الخميس بعد أن اكتشفه المدعي العام لنيو مكسيكو راؤول توريز كجزء من قضية تزعم ميتا وضعت منتجاتها بشكل مخادع على أنها آمنة للمراهقين عندما كانت على علم بخيارات التصميم الضارة التي تدعي الدولة أنها مدمنة للأطفال وتسمح بازدهار الأطفال المفترسين. في الشكوى، زعم مكتب المدعي العام أن الكشف عن الأضرار التي حددتها شركة Meta على منصاتها “كان من شأنه أن يصحح الطبيعة المضللة والخادعة لتصريحاتها العامة التي تعلن أن منصاتها “آمنة”. وقال المتحدث باسم شركة Meta، آندي ستون، الحافة في بيان جاء فيه أن الشركة “تفخر بالتزامنا المستمر بإجراء أبحاث شفافة ورائدة في الصناعة. وكما فعلنا لسنوات، نواصل استخدام هذه الأفكار لإجراء تحسينات ذات معنى، مثل تقديم حسابات المراهقين مع وسائل الحماية المضمنة وتزويد الآباء بالأدوات اللازمة لإدارة تجارب المراهقين.”
البريد الإلكتروني هو مجرد مثال واحد على هذا النوع محادثات داخلية من المتوقع أن يتم الكشف عنها طوال تلك المحاكمة، وفي أ سلسلة من القضايا مع مطالبات مماثلة في كاليفورنيا. ومن المتوقع أن تبدأ البيانات الافتتاحية في قضية نيو مكسيكو الأسبوع المقبل.
في رسالة البريد الإلكتروني، كتب زوكربيرج أنه يبدو أن أقران ميتا تمكنوا من تجنب الانتقادات العامة بشأن القضايا الاجتماعية من خلال إجراء أبحاث أقل استباقية حول الأضرار التي لحقت بمنصاتهم. وكتب قائلاً: “يبدو أن شركة أبل، على سبيل المثال، لا تدرس أياً من هذه الأشياء”. “بقدر ما أفهم، ليس لديهم أي شخص يقوم بمراجعة المحتوى أو الإشراف عليه وليس لديهم حتى تدفق التقارير في iMessage. لقد اتبعوا النهج القائل بأن ما يفعلونه على المنصة هو مسؤولية الأشخاص الخاصة، ومن خلال عدم تحمل Apple هذه المسؤولية على عاتقها، لم يقوموا بإنشاء فريق عمل أو عدد كبير من الدراسات التي تفحص المفاضلات في نهجهم. وقد نجح هذا بشكل مدهش بالنسبة لهم. “
“(W) عندما حاولت شركة Apple فعل شيء ما بشأن CSAM، تعرضت لانتقادات شديدة بسبب ذلك”
وبينما بدا أن شركة أبل تتهرب من النقد، فمن وجهة نظر زوكربيرج، فإن ميتا بدلاً من ذلك “واجهت المزيد من الانتقادات” لأنها الإبلاغ عن المزيد من مواد الاعتداء الجنسي على الأطفال (CSAM)، مما “يجعل الأمر يبدو كما لو أن هناك المزيد من هذا السلوك على منصاتنا.” ومن ناحية أخرى، أشار إلى أنه “عندما حاولت شركة Apple القيام بشيء ما بشأن CSAM، تعرضت لانتقادات شديدة بسبب ذلك، مما قد يشجعها على مضاعفة نهجها الأصلي”. ربما كان زوكربيرج يشير إلى إعلان شركة Apple في وقت سابق من ذلك العام ميزات جديدة تهدف إلى حماية الأطفال، بما في ذلك مسح صور iCloud الخاصة بالمستخدمين بحثًا عن CSAM. لكن المدافعين عن الخصوصية يشعرون بالقلق من أن هذه الخطوة قد تخلق بابًا خلفيًا عملاقًا لمراقبة حسابات المستخدمين. أبل في وقت لاحق تراجعت عن المقترحات. ولم تستجب شركة Apple على الفور لطلب التعليق على البريد الإلكتروني.
أبل وميتا لديها تشاجر لفترة طويلة في الأماكن العامة والخاصة في أساليبهم المختلفة تجاه قضايا السياسة مثل الخصوصية والتحقق من العمر. لكن زوكربيرج كان لديه أيضًا ملاحظات مماثلة تجاه أقران ميتا الآخرين. وكتب: “يتبع يوتيوب وتويتر وسناب نهجا مماثلا، بدرجات أقل”. “يبدو أن يوتيوب يدفن رأسه في الرمال عمداً ليبقى تحت الرادار ولا يكون مركز الاهتمام. ربما لا تمتلك تويتر وسناب الموارد اللازمة للقيام بهذا النوع من الأبحاث”. قامت العديد من المنصات بمشاركة الأبحاث والمبادرات علنًا على مر السنين لدراسة سلامة منصاتها، بما في ذلك اللجنة الاستشارية للشباب والعائلات في YouTube مكونة من خبراء مستقلين توجيه رفاهية المراهقين على المنصة، وكذلك مؤشر الرفاهية الرقمية لشركة Snap (بدأت عام 2022).
“أعتقد أنه ينبغي علينا الثناء على العمل الذي نقوم به لدراسة وفهم وتحسين القضايا الاجتماعية على منصاتنا.”
ويبدو أن زوكربيرج يعتقد أن الاستجابة العامة لأبحاثه الداخلية كانت غير عادلة. وكتب: “أعتقد أننا يجب أن نشيد بالعمل الذي نقوم به لدراسة وفهم وتحسين القضايا الاجتماعية على منصاتنا”. “لسوء الحظ، من المرجح أن تستخدم وسائل الإعلام أي بحث أو توصيات يتم إنتاجها للقول إننا لا نفعل كل ما في وسعنا (في إشارة ضمنية لأغراض جبانة) بدلاً من أننا نأخذ هذه القضايا على محمل الجد أكثر من أي شخص آخر في صناعتنا من خلال دراستها والبحث عن حلول، وليست جميعها معقولة للتنفيذ لأن كل شيء له مقايضات.”
ردًا على رسالة البريد الإلكتروني، أيد اثنان على الأقل من كبار المسؤولين التنفيذيين مواصلة مستوى معين من البحث في القضايا الاجتماعية، حتى على الرغم من مخاطر الإدراك العام. وكتب خافيير أوليفان، نائب رئيس المنتجات المركزية آنذاك: “التسريبات سيئة، وستستمر في الحدوث، ما لم نجد طريقة للقضاء عليها”. “بالنظر إلى ذلك – هل ما زال الأمر يستحق محاولة فهم هذه المشكلات؟ أعتقد أن هذا هو الشيء المسؤول الذي يجب القيام به / أود أن نستمر في محاولة فهم كيف يمكننا جعل منتجاتنا أفضل للجميع، ولكن ربما ينبغي لنا أن نحصر السطح في تلك المناطق التي نرى فيها على الأقل درجة واضحة من الارتباط بين استخدام منتجاتنا / المشكلة المحددة. ” قال ديفيد جينسبيرج، نائب رئيس المنتج والاختيار والمنافسة آنذاك، إنه “بعد الكثير من المصارعة مع هذا بنفسي في الأيام القليلة الماضية،” اتفق إلى حد كبير مع أوليفان. “أعتقد أن العمل الداخلي مهم لتوفير منتج جيد وتجربة مستخدم جيدة – بشكل منفصل وبعيدًا عن أي أهداف تتعلق بالقضايا المجتمعية.”
وبعد بضعة أيام، شارك جاي روزن، وهو مدير تنفيذي للمنتجات يقود أعمال النزاهة، العديد من الخيارات المحتملة حول كيفية تغيير تنظيم الشركة حول الأبحاث الداخلية والخارجية، بما في ذلك إيجابيات وسلبيات كل منها. وكتب روزن أن هذا لم يكن سوى “تمرين أولي/تقديري” لفهم “نطاق الخيارات”. وتراوحت هذه الخيارات بين مركزية الفرق التي تبحث في موضوعات حساسة للغاية في محاولة للتحكم بشكل أفضل في الوصول إلى المواد، إلى الخيار الأكثر تطرفًا المتمثل في حل الفرق التي تبحث في موضوعات حساسة والاستعانة بمصادر خارجية للعمل عند الحاجة. في النهاية، أوصى المسؤولون التنفيذيون بالخيار الأقل تطرفًا المتمثل في مركزية فرق البحث، ويخططون للإعلان عنه بعد فترة وجيزة من شهادة الرئيس التنفيذي لشركة إنستغرام، آدم موسيري، أمام الكونجرس. وقال موسري، الذي تمت إضافته حديثًا إلى سلسلة رسائل البريد الإلكتروني، إن “الإعلان عن هذا بعد شهادتي (هكذا) أسوأ من ذي قبل، وقد تحدثنا (عن) هذا. سوف يتسرب، وسيجعل الأمر يبدو وكأنني كنت أخفي شيئًا ما”. انتهى ميتا اعلان التغييرات قبل شهادة الموسري، وقد قالها يواصل الدراسة مواضيع حساسة مثل رفاهية المراهقين.
وفي رسالة البريد الإلكتروني الأولية، أعرب زوكربيرج عن أسفه لأن تسريبات المستندات الداخلية تجعل من الصعب القيام بهذا العمل. “قد يكون هذا جزءًا من السبب وراء اختيار بقية الصناعة لنهج مختلف تجاه هذه القضايا.”
تصحيح 5 فبراير: نسخة سابقة بها خطأ إملائي فرانسيس هاوجين.
