Amerikan Tabipler Birliği (AMA), sağlık hizmetlerinde yapay zekâ ajanlarının yönetişimi için yeni bir çerçeve yayımladı. Bu çerçeve, birden fazla klinik görevi belirli ölçüde özerklikle yerine getirebilen araçların kullanım koşullarını belirlemeyi amaçlıyor. Çerçeve, bu çözümlerin açık kanıtlara dayanması ve hasta bakımını etkileyen işlevleri yerine getirmelerine izin verilmeden önce yüksek kaliteli performans göstermesi gerektiğine odaklanıyor.
Yapay zekâ ajanları, sürekli insan gözetimi olmadan bir dizi işlemi gerçekleştirebilme yetenekleri bakımından geleneksel üretken yapay zekâ araçlarından ayrılıyor. Olası kullanım alanları arasında çevresel klinik dokümantasyon, tanıya yardımcı olma ve hastaları izleme bulunuyor. Ancak bağımsız bir karardaki hata veya önyargı, doktor müdahale etmeden önce hastaya zarar verebilir.
Görevi devretmeden önce sorulması gereken dört soru
AMA çerçevesi, herhangi bir klinik ajanın değerlendirilmesi sürecinin dört temel soruya dayanmasını öneriyor:
- Yapay zekâ sistemi hangi klinik işlevi yerine getiriyor?
- Bu işlevi yerine getirebildiğine dair kanıt nedir ve başarısız olursa ne olur?
- Sistemin hangi işlemleri gerçekleştirmesine izin verilmeli ve hangi koşullar altında?
- Riskler ve sonuçlar konusunda sorumluluğu kim üstleniyor?
Birlik, tutumunu kanıtların, yetkilerin, gözetimin ve hesap verebilirliğin hasta bakımını iyileştirme hedefiyle uyumlu tutulması gerektiği şeklinde özetliyor ve bu teknolojilerin geliştirilmesi ile kullanıma sunulmasında doktorların merkezi rolünü vurguluyor.
Bu çerçeve neden önemli?
Girişim, yapay zekâ ajanlarına yönelik denemelerin sağlık hizmeti kuruluşlarında yaygınlaştığı bir dönemde geliyor. Amerika Birleşik Devletleri'ndeki sağlık hizmetleri sektöründen 250 liderin katıldığı bir ankete göre kuruluşların %28'i bu tür araçları hâlihazırda kullanıma sunduğunu, %44'ü ise denemeler veya kavram kanıtlama projeleri yürüttüğünü belirtti. Katılımcıların çoğu klinik iş akışlarında dönüştürücü bir etki bekliyor.
Buna karşılık katılımcıların %72'si yapay zekâ ajanı araçlarının bazen bilgi teknolojileri departmanının onayı olmadan uygulandığını söyledi. Bu durum kurumsal gözetimde bir boşluğa işaret ediyor; katılımcıların yarısından fazlası uyum veya düzenleme gerekliliklerinin ihlal edilmesi ihtimalini ve korunan sağlık bilgilerine yetkisiz erişimi başlıca endişeler arasında değerlendirdi.
Kapsamlı federal düzenlemenin yokluğunda rehberlik
Sağlık hizmetleri sektörü, yapay zekâya ilişkin tamamlanmamış federal düzenlemelerin bulunduğu bir ortamda faaliyet gösteriyor. Bu durum, meslek ve sektör gruplarını geçici ilkeler ve denetimler oluşturmaya yöneltti. Amerika Birleşik Devletleri genelinde yasalar, kısıtlamaları sıkılaştıran eyaletlerle yapay zekâ destekli sağlık hizmeti kullanım alanlarını test eden eyaletler arasında farklılık gösteriyor. Hukuk ve danışmanlık şirketi Manatt'a göre 47 eyalet, 2025 yılında sağlık hizmetlerinde yapay zekâyı etkileyen 250'den fazla yasa tasarısı sundu.
Çerçeve tek başına her ajanın nasıl onaylanacağını belirlemiyor veya operasyonel riskleri ortadan kaldırmıyor. Ancak bağımsız araçları hasta bakım süreçlerine dahil etmeden önce sorumluluk, yetkiler ve kanıtlarla ilgili sorular sormak için pratik bir temel sunuyor. Bu ilkelerin ölçülebilir gerekliliklere nasıl dönüştürüleceği ve sorumluluğun doktorlar, kuruluşlar ve sistem geliştiricileri arasında nasıl dağıtılacağı ise açık sorular olmaya devam ediyor.