Amerikan Hastaneler Birliği (AHA) ve Amerikan Tabipler Birliği (AMA) dahil olmak üzere bir grup büyük ABD sağlık kuruluşu, Gıda ve İlaç Dairesi'nden (FDA) üretken yapay zeka teknolojilerini entegre eden tıbbi cihazlara ilişkin yasal ve teknik sorumluluğu net bir şekilde tanımlamasını talep etti. Bu talepler, kurumun bu gelişmekte olan araçlarla başa çıkmak için bir çerçeve oluşturmayı amaçlayan düzenleyici önerisine verilen yanıtlar kapsamında geldi.
Sorumluluk ve Şeffaflık Zorluğu
Tıp kuruluşları, doktorların ve hastanelerin karmaşık yapay zeka modellerinin performansını sürekli olarak izlemek için gerekli teknik kapasiteye veya kaynaklara sahip olmadığını savunuyor. Amerikan Hastaneler Birliği, geliştiricilerin bu araçları değerlendirmek ve bakımını yapmak için en yetkili taraf olduğunu vurgulayarak, bu modellerin nasıl çalıştığına dair şeffaflık eksikliğinin, sağlık hizmeti sağlayıcılarının yazılım hatalarını veya çıktıdaki önyargıları tespit etmesini zorlaştırdığını belirtti.
İnsan Denetimi Konusundaki Endişeler
Amerikan Tabipler Birliği (AMA), "döngüdeki insan" (human-in-the-loop) kavramıyla ilgili temel bir noktaya değinerek, yapay zeka çıktılarını denetleyen bir doktorun bulunmasının risklerin azaltılacağını mutlaka garanti etmediğini vurguladı. Bu araçlara aşırı güvenmenin klinik hatalara yol açabileceğini belirten birlik, sadece cihazın çalışma doğasına güvenmek yerine, risk değerlendirme çerçevesi dahilinde insan unsurunun performansının da değerlendirilmesi gerektiğini açıkladı.
Pratikte Neler Değişiyor?
- Sorumluluk Yükünün Devri: Tıp kuruluşları, kontrol edemedikleri teknik hatalardan kaynaklanan yasal sorumluluktan kendilerini korumayı amaçlıyor ve sorumluluğun üretici şirketlere ait olması gerektiğini savunuyor.
- "Besin Değerleri Etiketi" Talepleri: WEDI gibi bazı gruplar, şirketlerin aracın işlevlerini ve hastalar ile doktorlar için olası risklerini açıklayan (besin değeri etiketlerine benzer) açıklayıcı etiketler koymalarının zorunlu tutulmasını önerdi.
- Risk Çerçevesinin Geliştirilmesi: Tıp kuruluşları, risk değerlendirmesinin sadece "cihaz aktivitesine" dayandırılmasının yetersiz olduğunu, hata olasılığı ve kullanımdan kaynaklanan olumsuz sonuçlar gibi diğer değişkenlerin de dahil edilmesi gerektiğini düşünüyor.
Bu tartışmalar, ABD Gıda ve İlaç Dairesi'nin önümüzdeki aylarda üretken yapay zeka tabanlı tıbbi cihazların düzenlenmesine ilişkin resmi bir taslak kılavuz yayınlamaya hazırlandığı bir dönemde gerçekleşiyor; bu durum, bu hayati sektördeki yasal ve teknik sorumluluk konusundaki mevcut tartışmalara bir son verebilir.