في وقت سابق من هذا الشهر، ليرا هيلث أعلن روبوت محادثة يعمل بالذكاء الاصطناعي “من الدرجة السريرية” لمساعدة المستخدمين في مواجهة “التحديات” مثل الإرهاق واضطرابات النوم والتوتر. هناك ثمانية عشر إشارة إلى كلمة “سريري” في بيانها الصحفي، بما في ذلك “التدريب السريري” و”الصارم سريريًا” و”التدريب السريري”. بالنسبة لمعظم الناس، وأنا منهم، فإن كلمة “سريري” تشير إلى كلمة “طبي”. المشكلة هي أنها لا تفعل ذلك يقصد طبي. في الواقع، “الدرجة السريرية” لا تعني أي شيء على الإطلاق.
“الدرجة السريرية” هي مثال على التبذير التسويقي المصمم لاقتراض السلطة من الطب دون قيود المساءلة أو التنظيم. إنها تقع جنبًا إلى جنب مع عبارات تسويقية غامضة أخرى مثل “درجة طبية” أو “درجة صيدلانية” لأشياء مثل الفولاذ والسيليكون والمكملات الغذائية التي تشير ضمنًا إلى الجودة؛ “قوة الوصفة الطبية” أو “تركيبة طبية” للكريمات والمراهم التي تشير إلى الفعالية؛ و “هيبوالرجينيك” و “غير كوميدوغينيك” اقتراح النتائج – انخفاض فرص حدوث تفاعلات حساسية وعدم انسداد المسام، على التوالي – والتي لا توجد لها تعريفات قياسية أو إجراءات اختبار.
وقد أكد المسؤولون التنفيذيون في شركة Lyra ذلك، يقول أخبار الإحصائيات أنهم لا يعتقدون أن لوائح إدارة الغذاء والدواء تنطبق على منتجاتهم. إن اللغة الطبية في البيان الصحفي – والتي تسمي الشات بوت “دليل الذكاء الاصطناعي للمحادثة المصمم سريريًا” و”أول تجربة ذكاء اصطناعي من الدرجة السريرية لرعاية الصحة العقلية” – موجودة فقط لمساعدته على التميز عن المنافسين وإظهار مدى الاهتمام الذي أولوه في تطويره، كما يزعمون.
تقدم Lyra أداة الذكاء الاصطناعي الخاصة بها كإضافة إلى الرعاية الصحية العقلية التي يقدمها بالفعل موظفوها البشريون، مثل المعالجين والأطباء، مما يتيح للمستخدمين الحصول على دعم على مدار الساعة بين الجلسات. وفق الإحصائياتيمكن لروبوت الدردشة الاعتماد على المحادثات السريرية السابقة والموارد السطحية مثل تمارين الاسترخاء وحتى استخدام تقنيات علاجية غير محددة.
يثير الوصف سؤالاً واضحًا حول ماذا تعني عبارة “الدرجة السريرية” هنا؟ على الرغم من ميلها الشديد إلى هذا المصطلح، إلا أن ليرا لا تقول ذلك صراحة. ولم ترد الشركة على الحافةطلبات التعليق أو تعريف محدد لـ “الذكاء الاصطناعي من الدرجة السريرية”.
يقول جورج هورفاث، الطبيب وأستاذ القانون في جامعة كاليفورنيا للقانون في سان فرانسيسكو: “لا يوجد معنى تنظيمي محدد لمصطلح الذكاء الاصطناعي من الدرجة السريرية”. “لم أجد أي نوع من وثائق إدارة الغذاء والدواء التي تذكر هذا المصطلح. إنه بالتأكيد ليس في أي قوانين. وليس في اللوائح.”
كما هو الحال مع المصطلحات التسويقية الأخرى، يبدو أن هذا شيء صاغته الشركة أو اختارته بنفسها. يقول هورفاث: “من الواضح جدًا أن هذا المصطلح يأتي من الصناعة”. “لا يبدو لي كما لو أن هناك أي معنى واحد… ربما يكون لكل شركة تعريفها الخاص لما تعنيه بذلك”.
على الرغم من أن “المصطلح وحده ليس له معنى كبير”، إلا أن فيل رايت، عالم النفس المرخص والمدير الأول لمكتب ابتكار الرعاية الصحية التابع لجمعية علم النفس الأمريكية، يقول إنه من الواضح سبب رغبة ليرا في الاعتماد عليه. “أعتقد أن هذا هو المصطلح الذي صاغته بعض هذه الشركات كعلامة على التمايز في سوق مزدحمة للغاية، في حين أنها لا تقع عن عمد ضمن نطاق إدارة الغذاء والدواء.” تشرف إدارة الغذاء والدواء الأمريكية (FDA) على جودة وسلامة وفعالية مجموعة من المنتجات الغذائية والطبية مثل الأدوية والمزروعات. هناك تطبيقات للصحة العقلية تقع ضمن اختصاصها، ولتأمين الموافقة، يجب على المطورين تلبية معايير صارمة للسلامة والأمن والفعالية من خلال خطوات مثل التجارب السريرية التي تثبت أنهم يفعلون ما يزعمون أنهم يفعلونه ويفعلونه بأمان.
يقول رايت إن مسار إدارة الغذاء والدواء مكلف ويستغرق وقتًا طويلاً بالنسبة للمطورين، مما يجعل هذا النوع من “اللغة الغامضة” طريقة مفيدة للتميز عن الآخرين. يقول رايت إنه يمثل تحديًا للمستهلكين، لكنه مسموح به. وتقول إن المسار التنظيمي لإدارة الغذاء والدواء “لم يتم تطويره خصيصًا للتكنولوجيات المبتكرة”، مما يجعل بعض اللغة المستخدمة في التسويق مثيرة للتناقض. يقول رايت: “إنك لا ترى ذلك حقًا في مجال الصحة العقلية”. “لا يوجد أحد يقول العلاج السلوكي المعرفي من الدرجة السريرية، أليس كذلك؟ هذه ليست الطريقة التي نتحدث بها عن الأمر”.
بصرف النظر عن إدارة الغذاء والدواء الأمريكية، يمكن للجنة التجارة الفيدرالية، التي تشمل مهمتها حماية المستهلكين من التسويق غير العادل أو المخادع، أن تقرر أن شيئًا ما أصبح غامضًا للغاية ومضللًا للجمهور. رئيس لجنة التجارة الفيدرالية أندرو فيرجسون أعلن وفي وقت سابق من هذا العام، تم إجراء تحقيق حول روبوتات المحادثة المعتمدة على الذكاء الاصطناعي، مع التركيز على تأثيرها على القاصرين – مع الحفاظ على أولوية “ضمان احتفاظ الولايات المتحدة بدورها كزعيم عالمي في هذه الصناعة الجديدة والمثيرة”. ولم تستجب إدارة الغذاء والدواء الأمريكية (FDA) ولا لجنة التجارة الفيدرالية (FTC). الحافةطلبات التعليق.
في حين أن الشركات “ترغب تمامًا في الحصول على كعكتها وتناولها”، يقول ستيفن جيلبرت، أستاذ العلوم التنظيمية للأجهزة الطبية في جامعة دريسدن للتكنولوجيا في ألمانيا، إنه يجب على المنظمين تبسيط متطلباتهم وجعل التنفيذ أكثر وضوحًا. ويقول إنه إذا تمكنت الشركات من تقديم هذه الأنواع من المطالبات بشكل قانوني (أو الإفلات من القيام بذلك بشكل غير قانوني)، فسوف تفعل ذلك.
لا يقتصر هذا الغموض على الذكاء الاصطناعي، أو على الصحة العقلية، التي لديها عرضها الخاص من منتجات “العافية” التي تبدو علمية، والتي تَعِد بالدقة دون تنظيم. ينتشر الزغب اللغوي عبر الثقافة الاستهلاكية مثل العفن على الخبز. إن مستحضرات التجميل “المختبرة سريريا”، والمشروبات “المعززة للمناعة”، والفيتامينات التي تعد بالعالم، تعيش جميعها داخل منطقة تنظيمية رمادية تسمح للشركات بتقديم ادعاءات واسعة النطاق تبدو علمية لا تخضع بالضرورة للتدقيق. يمكن أن يكون خطًا رفيعًا يجب السير فيه، لكنه قانوني. إن أدوات الذكاء الاصطناعي ترث ببساطة هذه البراعة اللغوية.
تقوم الشركات بصياغة الأمور بعناية لإبعاد التطبيقات عن خط النار الذي تفرضه إدارة الأغذية والعقاقير (FDA) ونقل درجة من الحصانة القانونية. فهو لا يظهر فقط في النسخة التسويقية ولكن في النسخة المطبوعة، إذا تمكنت من قراءته. تؤكد معظم أدوات العافية المستندة إلى الذكاء الاصطناعي، في مكان ما على مواقعها أو مدفونة داخل الشروط والأحكام، على لغة تقول إنها ليست بدائل للرعاية المهنية وليس المقصود منها تشخيص المرض أو علاجه. ومن الناحية القانونية، فإن هذا يمنع تصنيفها كأجهزة طبية أدلة متزايدة يقترح أن الأشخاص يستخدمونها للعلاج ويمكنهم الوصول إلى الأدوات دون إشراف سريري.
يتم تسويق Ash، وهو تطبيق علاجي للمستهلك من Slingshot AI، بشكل صريح وغامض من أجل “الصحة العاطفية”، في حين أن Headspace، وهو منافس لـ Lyra في مجال صحة أصحاب العمل، يروج لـ “رفيق الذكاء الاصطناعي” Ebb باعتباره “أفضل صديق جديد لعقلك”. تؤكد جميعها على مكانتها كمنتجات صحية بدلاً من كونها أدوات علاجية قد تؤهلها كأجهزة طبية. وحتى الروبوتات ذات الأغراض العامة مثل ChatGPT تحمل تحذيرات مماثلة، وتتنصل صراحة من أي استخدام طبي رسمي. الرسالة ثابتة: تحدث وتصرف مثل العلاج، ولكن قل أن الأمر ليس كذلك.
بدأ المنظمون في الاهتمام. ادارة الاغذية والعقاقير هي المقرر لعقد مجموعة استشارية لمناقشة الأجهزة الطبية للصحة العقلية التي تدعم الذكاء الاصطناعي في السادس من نوفمبر، على الرغم من أنه من غير الواضح ما إذا كان هذا سيستمر نظرًا لإغلاق الحكومة.
ومع ذلك، ربما تلعب Lyra لعبة محفوفة بالمخاطر باستخدام “الذكاء الاصطناعي من الدرجة السريرية”. يقول هورفاث: “أعتقد أنهم سيقتربون حقًا من التشخيص والعلاج وكل شيء آخر من شأنه أن يدفعهم إلى تعريف الجهاز الطبي”.
وفي الوقت نفسه، يعتقد جيلبرت أن شركات الذكاء الاصطناعي يجب أن تسميها كما هي. ويقول: “لا معنى للحديث عن “الدرجة السريرية” في نفس المساحة التي تحاول فيها التظاهر بعدم توفير أداة سريرية”.
