أربعة أسئلة تكشف نهج FDA المرتقب لتنظيم الذكاء الاصطناعي التوليدي في الأجهزة الطبية

تقترب إدارة الغذاء والدواء الأمريكية (FDA) من وضع إطار تنظيمي لاستخدام الذكاء الاصطناعي التوليدي في الأجهزة الطبية، في وقت لا يوجد فيه حتى الآن جهاز طبي يستخدم هذه التقنية بطريقة خاضعة لتنظيم FDA. وتراقب شركات الأجهزة الطبية الاتجاه الذي ستختاره الوكالة، خصوصاً فيما يتعلق بإثبات السلامة والفعالية، وضمان استمرار أداء النماذج بعد طرحها في السوق.

نشرت الوكالة في أغسطس ورقة نقاش طلبت فيها آراء الأطراف المعنية حول كيفية ضمان سلامة الأجهزة التي تستخدم الذكاء الاصطناعي قبل دخولها السوق وبعده. وقالت Grace Davis Jamison، المتحدثة باسم وزارة الصحة والخدمات الإنسانية الأمريكية، إن الهدف هو فهم التحديات الخاصة بالأجهزة المدعومة بالذكاء الاصطناعي التوليدي والمساعدة في إعداد إرشادات مستقبلية.

تقنية موجودة في التجارب، لا في المنتجات المعتمدة بعد

تشير المادة إلى أن FDA أجازت حتى الآن أكثر من 1,500 جهاز يتضمن مكوّناً من مكونات الذكاء الاصطناعي، لكنها لم تجز جهازاً يستخدم الذكاء الاصطناعي التوليدي. ومع ذلك، منحت الوكالة تصنيف الاختراق لعدد محدود من الأدوات التي يجري تطويرها، ومنها ميزتان منفصلتان من Aidoc وشركة تابعة لـ Radiology Partners لتحليل صور الأشعة السينية للصدر وإعداد مسودات تقارير الأشعة، إلى جانب أداة من Modella AI لتحليل صور علم الأمراض والبيانات السريرية.

كما أدرجت FDA أجهزة تعتمد على الذكاء الاصطناعي التوليدي ضمن برنامج تجريبي للصحة الرقمية يحمل اسم Technology-Enabled Meaningful Patient Outcomes، أو TEMPO. ويتيح البرنامج للشركات جمع بيانات من العالم الحقيقي مع إعفائها من متطلبات الترخيص السابق للتسويق. ومن المشاركين Limbic، التي تقدم علاجاً معرفياً سلوكياً عبر مكالمات هاتفية يتولى فيها وكيل صوتي يعمل بالذكاء الاصطناعي التفاعل مع المستخدم.

في المقابل، لا تخضع بعض الميزات الحالية لمراجعة FDA. فقد أضافت Dexcom في عام 2024 ميزة توليدية إلى حساسات الغلوكوز المتاحة دون وصفة، لتحليل بيانات المستخدمين وتقديم توصيات شخصية للعافية، وقالت الشركة إن الميزة لم تتطلب طلباً تنظيمياً قبل التسويق.

من اختبار المنتج إلى تقييم قائم على الكفاءة

تقر ورقة النقاش بأن الذكاء الاصطناعي التوليدي لا يندرج بسهولة ضمن أطر الأجهزة الحالية. فالأنظمة قد تنتج نصوصاً أو صوراً مختلفة استجابة لمدخلات متغيرة، ما يصعّب اختبار كل الاحتمالات وقياس السلامة والفعالية. كما تثير الهلوسة، أي إنتاج معلومات خاطئة تبدو موثوقة، مخاوف إضافية، إلى جانب احتمال تراجع أداء النموذج مع مرور الوقت.

تقترح FDA مفهوم «التقييم القائم على الكفاءة»، مستفيدة من طريقة تقييم الأطباء عبر الاختبارات والإشراف والإبلاغ العام. وبدلاً من محاولة فحص كل مدخل ومخرج ممكن، قد تعتمد المراجعة السابقة للتسويق بدرجة أكبر على المقارنة المعيارية والاختبارات التي تقيس مستوى الكفاءة المطلوب.

وتطرح الوكالة أيضاً فكرة إنشاء ملفات رئيسية اختيارية لنماذج الأساس. وبموجب هذا التصور، يمكن لمطوري النماذج أو المنصات الأساسية تقديم معلومات سرية إلى FDA، بما يتيح للجهة التنظيمية فهم التقنية المستخدمة داخل جهاز طبي من دون مطالبة كل مطور جهاز بكشف جميع الأسرار التجارية للنموذج الذي يعتمد عليه.

المراقبة بعد التسويق ستكون جزءاً من المعادلة

تؤكد الورقة أهمية مراقبة الأجهزة بعد طرحها، وتدرس FDA ما إذا كان من المقبول السماح بدرجة أكبر من عدم اليقين قبل التسويق، مقابل الاعتماد بصورة أكبر على البيانات والمراقبة اللاحقة. وترى Kayla Cristales، المحامية في Haynes Boone، أن الوكالة قد تعتمد بدرجة كبيرة على الشركات نفسها في تقديم التحديثات ومتابعة تطور الأجهزة.

هذه النقطة تعالج مشكلة لا يحلها اختبار الترخيص الأولي وحده: النموذج قد يتغير، أو تتبدل بيانات الاستخدام، أو تظهر أنماط فشل لم تكن واضحة أثناء التجارب. لكن المصدر لا يحدد بعد معايير المراقبة أو وتيرة التحديثات أو المسؤولية التفصيلية لكل من المطورين والمؤسسات الصحية.

لماذا يهم هذا الخبر؟

تنتظر الشركات الإرشادات بدرجات متفاوتة. وقال Erez Kaminski، الرئيس التنفيذي لـ Ketryx، إن بعض المطورين يمضون قدماً، بينما يفضّل آخرون الانتظار، تبعاً لحجم الشركة واستعدادها للمخاطر. ويرى خبراء نقلت عنهم المادة أن كثيراً من الأدوات الحالية تركز على الاستخدامات الإدارية أو تحسين سير العمل أو تطبيق إرشادات معروفة، وهي مجالات قد لا تستدعي اعتبار المنتج جهازاً طبياً خاضعاً للرقابة.

أما الشركات التي قبلت مسبقاً بدخول المجال المنظم، مثل Aidoc، فتتعامل مع الإرشادات المتخصصة باعتبارها مفيدة، وإن لم تكن شرطاً حاسماً للتقدم. وقال Sharif Vakili، الرئيس التنفيذي لـ UpDoc، إن غياب القيادة التنظيمية قد يدفع السوق إلى خليط من القواعد المختلفة أو إلى ردود فعل متأخرة تجاه الاستخدامات السيئة.

من وجهة نظر تحريرية، لا يكمن التغير الفعلي بعد في صدور قاعدة ملزمة، بل في انتقال FDA من نقاش عام حول الذكاء الاصطناعي إلى اختبار أدوات تنظيمية محددة: التقييم القائم على الكفاءة، وملفات نماذج الأساس، والمراقبة المستمرة. وهذا يمنح الشركات مؤشرات أولية، لكنه لا يحسم بعد كيفية اعتماد النماذج المتغيرة أو تحديد المسؤولية عندما يتراجع الأداء.

وتتجاوز الأسئلة المطروحة شركات الأجهزة. فقد دعت Kellie Owens، الأستاذة المساعدة في أخلاقيات الطب في NYU Grossman School of Medicine، إلى رقابة أقوى بعد التسويق، بينما طالب Luis Gil Abinader من Generation Patient بمزيد من الإشراف على الرفقاء الرقميين وروبوتات المحادثة، سواء سُوقت لأغراض صحية أم لا. وتظل روبوتات المحادثة التجارية خارج نطاق FDA في الوقت الحالي، رغم مخاوف استخدامها للدعم النفسي، ومنها ادعاء بعضها زوراً أنه يقدم علاجاً نفسياً. كما أدرج مركز الأجهزة في FDA إرشادات الأدلة السريرية لأجهزة الصحة النفسية الرقمية ضمن قائمة الأعمال قيد الإعداد للسنة المالية الحالية.