على مدى السنوات السبع الماضية، قامت شركة كينتسوجي الناشئة ومقرها كاليفورنيا بتطوير الذكاء الاصطناعي المصمم لاكتشاف علامات الاكتئاب والقلق من كلام الشخص. ولكن بعد الفشل في الحصول على موافقة إدارة الغذاء والدواء في الوقت المناسب، قامت الشركة بإغلاق معظم تقنياتها وإطلاقها كمصدر مفتوح. وقد تجد بعض العناصر حياة ثانية تتجاوز الرعاية الصحية، مثل اكتشاف الصوت المزيف العميق.
لا تزال تقييمات الصحة العقلية تعتمد إلى حد كبير على استبيانات المرضى والمقابلات السريرية، بدلاً من الاختبارات المعملية أو عمليات المسح الشائعة في الطب الطبيعي. بدلاً من التركيز على ما يقوله شخص ما، يقوم برنامج Kintsugi بتحليل كيفية قوله. الفكرة ليست جديدة – فأنماط الكلام مثل التوقف المؤقت، أو بنية الجملة، أو السرعة هي مؤشرات معروفة لمختلف مشكلات الصحة العقلية – لكن كينتسوجي تقول إن الذكاء الاصطناعي الخاص بها يمكنه التقاط التحولات الدقيقة التي قد تكون أقل وضوحًا للمراقبين البشريين، على الرغم من أنها لم تقدم تفاصيل علنية بالضبط عن الميزات التي تدفع تنبؤات نماذجها. في البحوث التي راجعها النظراء، أعلنت الشركة عن نتائج تتماشى على نطاق واسع مع أدوات فحص التقرير الذاتي للاكتئاب باستخدام عينات الكلام القصيرة.
وقد عرضت الشركة هذه التكنولوجيا كمكمل – أو بديل محتمل – لأدوات الفحص المبلغ عنها ذاتيًا.
وقد عرضت الشركة هذه التكنولوجيا كمكمل – أو بديل محتمل – لأدوات الفحص التي يتم الإبلاغ عنها ذاتيًا مثل استبيان صحة المريض -9، أو PHQ-9، وهو عنصر أساسي في الرعاية الأولية والطب النفسي. من المفترض أن يتم استخدام هذه الأدوات جنبًا إلى جنب مع التقييم السريري الرسمي، وعلى الرغم من التحقق من صحتها على نطاق واسع، يمكن أن تكون معدلات الفحص منخفضة، فهم يعتمدون على المرضى الذين يصفون الأعراض بدقة، وهم قد لا يلتقط مجموعة كاملة من الأعراض المرتبطة باضطرابات الصحة العقلية. وقالت كينتسوجي إن نموذجها القائم على الصوت يمكن أن يوفر إشارة أكثر موضوعية، ويوسع نطاق الفحص ليشمل المزيد من المرضى، ويمكن نشره على نطاق واسع عبر الأنظمة الصحية وشركات التأمين وبرامج أصحاب العمل. ومع ذلك، فإن القيام بذلك يتطلب موافقة إدارة الغذاء والدواء.
كان Kintsugi يسعى للحصول على موافقة إدارة الغذاء والدواء (FDA) من خلال “الوكالة”مرة أخرى“، وهو مسار مخصص للأجهزة الطبية الجديدة ومنخفضة المخاطر دون وجود معادل موجود في السوق. على الرغم من أنه يهدف إلى تبسيط الموافقة على أنواع جديدة من المنتجات، إلا أنه لا يزال عملية يمكن أن تتطلب سنوات من جمع البيانات والمراجعة التنظيمية. قال المؤسس والرئيس التنفيذي لشركة Kintsugi جريس تشانغ الحافة تم قضاء الكثير من الوقت في تعليم الجهة التنظيمية حول الذكاء الاصطناعي. كما أن الإطار لا يتناسب مع الذكاء الاصطناعي بشكل جيد؛ تم تصميم الكثير من الأجهزة مع وضع المزيد من الأجهزة التقليدية في الاعتبار – مثل زراعة الورك، والأدوات الجراحية، وأجهزة تنظيم ضربات القلب – والتي يظل تصميمها ثابتًا إلى حد كبير بمجرد الموافقة عليها. بالنسبة لأنظمة الذكاء الاصطناعي، قد يعني ذلك قفل النموذج الذي قد يستمر في تحسينه وتحديثه بمرور الوقت.
إن إدارة الغذاء والدواء الأمريكية لا تناسب الذكاء الاصطناعي بشكل جيد؛ تم تصميم الكثير مع وضع المزيد من الأجهزة التقليدية في الاعتبار.
على الرغم من الجهود الحثيثة التي تبذلها إدارة ترامب لتقليص الروتين وإدخال منتجات الذكاء الاصطناعي إلى العالم الحقيقي في أقرب وقت ممكن، قالت تشانغ إن الخبراء التنظيميين أخبروها أنه “لا يوجد شيء يساعدهم على القيام بذلك سوى الصراخ بصوت عالٍ من الأعلى”. تم إبطاء عملية الموافقة بشكل أكبر إغلاق الحكومة الفيدرالية. نفد تمويل الشركة الناشئة في انتظار تقديمها النهائي.
تعثرت الجهود المبذولة لجمع أموال إضافية مع تقصير مدرج الشركة. بدلاً من قبول العروض قصيرة الأجل “المفترسة” لتغطية الرواتب – قال تشانغ إن أحد العروض عرض حوالي 50 ألف دولار أسبوعياً مقابل مليون دولار في الأسهم – قرر الفريق فتح المصدر لمعظم التكنولوجيا الخاصة به حتى يتمكن الآخرون من مواصلة العمل. ولم يكن المستثمرون سعداء.
كما أن إتاحة نموذج مفتوح المصدر لفحص الصحة العقلية يثير أيضًا مخاوف بشأن إساءة استخدامه. ومن الممكن، من الناحية النظرية، نشر الأدوات المصممة للكشف عن علامات الاكتئاب أو القلق خارج البيئات السريرية، مثل أصحاب العمل أو شركات التأمين، دون توفير الضمانات المطلوبة عادة في الرعاية الصحية. من الواضح أن هذا لا ينبغي أن يحدث، ولكن بمجرد نشر هذه التكنولوجيا علنًا، لن يكون هناك الكثير مما يمنع استخدام التكنولوجيا بطرق لم يقصدها منشئوها.
هناك مضاعفات أخرى أيضا. وقال نيكولاس كامينز، أحد كبار المحاضرين في تحليل الكلام والمسؤول عن الذكاء الاصطناعي في مجال الصحة في جامعة كينغز كوليدج في لندن الحافة أن الإصدارات مفتوحة المصدر غالبًا ما تفتقر إلى “السجل الورقي” التفصيلي الذي يتوقعه المنظمون، بما في ذلك سجل واضح لكيفية تدريب النموذج والتحقق من صحته واختباره للتأكد من سلامته. وقال إنه بدون ذلك، قد يكون من الصعب تقديم منتج مبني على التكنولوجيا من خلال موافقة إدارة الغذاء والدواء.
كما أن إتاحة نموذج مفتوح المصدر لفحص الصحة العقلية يثير أيضًا مخاوف بشأن إساءة استخدامه.
وعلى الأرجح، كما اقترح كامينز، ستتعامل الشركات مع النموذج كنقطة بداية وتضع بياناتها وعمليات التحقق من صحتها في الأعلى. وحتى مع ذلك، حذر من أن الأنظمة الصوتية لا تزال غير مثالية وتحمل خطرًا “معقولًا” لحدوث الأخطاء، خاصة بالنسبة لحالات مثل الاكتئاب، والتي تظهر بشكل مختلف عبر الأفراد واللغات والسياقات الثقافية وتعتمد بشكل كبير على تنوع وبنية بيانات الكلام المستخدمة في التدريب.
ولم يستبعد تشانغ المخاوف بشأن إساءة الاستخدام المحتملة، لكنه قال: “إنها أقل إثارة للقلق في الممارسة العملية مما قد تبدو من الناحية النظرية”. وقالت إن المنظمات التي لديها أكبر الحوافز لإساءة استخدام التكنولوجيا هي أيضاً تلك التي “تواجه أعلى العوائق التي تحول دون نشرها فعلياً”. ومن وجهة نظر تشانغ فإن “الخطر الأكثر واقعية هو قلة الاستخدام، وليس سوء الاستخدام”.
في حين أن تقنية فحص الصحة العقلية لشركة Kintsugi مفتوحة المصدر، قال تشانغ إنه لم يتم نشر جميع تقنيات الشركة علنًا. وقالت إن هذا يرجع جزئيًا إلى مخاوف أمنية، وأهمها تكنولوجيا يمكنها اكتشاف الأصوات الاصطناعية أو التي تم التلاعب بها.
وقال تشانغ إن القدرة ظهرت عندما قام الفريق بتجربة الكلام الناتج عن الذكاء الاصطناعي لتعزيز نماذج الصحة العقلية. افتقر الصوت الاصطناعي إلى الإشارات الصوتية التي تم تدريب النموذج على التعرف عليها، مما يكشف أنه يمكن استخدامه للتمييز بين الأصوات البشرية والأصوات الناتجة عن الذكاء الاصطناعي. إنه تحد متزايد نظرا لانتشار منظمة العفو الدولية منحدر و التزييف العميق الاحتيالي والتي لم يتم حلها بشكل موثوق بعد. إنها فرصة محتملة مربحة، ولحسن الحظ بالنسبة إلى منطقة كينتسوجي، وهي منطقة لا تخضع لرقابة إدارة الغذاء والدواء.
رفضت تشانغ التكهن بخطوتها التالية أو ما إذا كانت تقنية Kintsugi التي تركز على الأمن قد تعود إلى الظهور، لكنها قالت إنها تتمنى أن يقوم شخص آخر بالبناء على عمل الشركة وتنفيذه خلال المراحل النهائية من عملية إدارة الغذاء والدواء. ولكن من دون تغييرات أوسع نطاقًا، من غير المرجح أن يكون إغلاق كينتسوجي هو المثال الأخير على تعارض الجداول الزمنية لبدء التشغيل مع التنظيم الطبي، وقالت تشانغ إنها تأمل ألا يمنع الواقع المؤسسين الآخرين من المحاولة.
