مؤسسات الرعاية الصحية الأمريكية تطالب بتحميل مطوري الذكاء الاصطناعي التوليدي مسؤولية سلامة الأجهزة الطبية

طالبت مجموعة من كبرى المؤسسات الصحية الأمريكية، بما في ذلك الجمعية الأمريكية للمستشفيات (AHA) والجمعية الطبية الأمريكية (AMA)، هيئة الغذاء والدواء (FDA) بوضوح في تحديد المسؤولية القانونية والتقنية عن الأجهزة الطبية التي تدمج تقنيات الذكاء الاصطناعي التوليدي. وتأتي هذه المطالبات في إطار ردود الفعل على مقترح تنظيمي للهيئة يهدف إلى وضع إطار عمل للتعامل مع هذه الأدوات الناشئة.

تحدي المسؤولية والشفافية

تجادل المؤسسات الطبية بأن الأطباء والمستشفيات لا يمتلكون القدرة التقنية أو الموارد اللازمة لمراقبة أداء نماذج الذكاء الاصطناعي المعقدة بشكل مستمر. وأكدت الجمعية الأمريكية للمستشفيات أن المطورين هم الطرف الأقدر على تقييم هذه الأدوات وصيانتها، مشيرة إلى أن الافتقار إلى الشفافية في كيفية عمل هذه النماذج يجعل من الصعب على مقدمي الرعاية اكتشاف العيوب البرمجية أو التحيز في المخرجات.

مخاوف بشأن الإشراف البشري

أثارت الجمعية الطبية الأمريكية (AMA) نقطة جوهرية تتعلق بمفهوم "الإنسان في الحلقة" (human-in-the-loop)، مؤكدة أن وجود طبيب يشرف على مخرجات الذكاء الاصطناعي لا يضمن بالضرورة تقليل المخاطر. وأوضحت أن الاعتماد المفرط على هذه الأدوات قد يؤدي إلى أخطاء سريرية، مما يستدعي تقييم أداء العنصر البشري أيضاً ضمن إطار تقييم المخاطر، وليس فقط الاعتماد على طبيعة عمل الجهاز.

ما الذي يتغير عملياً؟

• نقل عبء المسؤولية: تسعى المؤسسات الطبية إلى حماية نفسها من المسؤولية القانونية عن أخطاء تقنية لا تملك السيطرة عليها، معتبرة أن المسؤولية يجب أن تقع على عاتق الشركات المصنعة.
• مطالب بـ "بطاقات التغذية": اقترحت بعض المجموعات، مثل (WEDI)، ضرورة إلزام الشركات بوضع ملصقات توضيحية (تشبه بطاقات القيمة الغذائية) توضح وظائف الأداة ومخاطرها المحتملة للمرضى والأطباء.
• تطوير إطار المخاطر: ترى المؤسسات الطبية أن تقييم المخاطر بناءً على "نشاط الجهاز" فقط غير كافٍ، ويجب إدراج متغيرات أخرى مثل احتمالية الخطأ والنتائج السلبية المترتبة على الاستخدام.

تأتي هذه النقاشات في وقت تستعد فيه هيئة الغذاء والدواء الأمريكية لإصدار مسودة توجيهية رسمية حول تنظيم الأجهزة الطبية المعتمدة على الذكاء الاصطناعي التوليدي في الأشهر المقبلة، وهو ما قد يضع حداً للجدل القائم حول المسؤولية القانونية والتقنية في هذا القطاع الحيوي.