ABD Gıda ve İlaç Dairesi (FDA), şu ana kadar bu teknolojiyi FDA denetimine tabi bir biçimde kullanan hiçbir tıbbi cihaz bulunmamasına rağmen, tıbbi cihazlarda üretken yapay zekâ kullanımına yönelik düzenleyici bir çerçeve oluşturmaya yaklaşıyor. Tıbbi cihaz şirketleri, özellikle güvenlik ve etkililiğin kanıtlanması ve modellerin piyasaya sunulduktan sonra performanslarını sürdürmelerinin sağlanması bakımından kurumun hangi yönü seçeceğini izliyor.
Kurum, ağustos ayında yayımladığı bir tartışma belgesinde, yapay zekâ kullanan cihazların pazara girmeden önce ve girdikten sonra güvenliğinin nasıl sağlanacağı konusunda ilgili tarafların görüşlerini istedi. ABD Sağlık ve İnsan Hizmetleri Bakanlığı sözcüsü Grace Davis Jamison, amacın üretken yapay zekâ destekli cihazlara özgü zorlukları anlamak ve gelecekteki kılavuzların hazırlanmasına yardımcı olmak olduğunu söyledi.
Teknoloji ürünlerde değil, denemelerde mevcut
Metinde, FDA’nın şimdiye kadar yapay zekâ bileşeni içeren 1.500’den fazla cihaza izin verdiği, ancak üretken yapay zekâ kullanan hiçbir cihaza izin vermediği belirtiliyor. Bununla birlikte kurum, geliştirilmekte olan sınırlı sayıdaki araca çığır açıcı cihaz sınıflandırması verdi. Bunlar arasında Aidoc’un ve Radiology Partners’ın bir iştirakinin göğüs röntgeni görüntülerini analiz edip radyoloji raporu taslakları hazırlamaya yönelik iki ayrı özelliği ile Modella AI’ın patoloji görüntülerini ve klinik verileri analiz eden bir aracı bulunuyor.
FDA ayrıca üretken yapay zekâya dayanan cihazları Technology-Enabled Meaningful Patient Outcomes veya TEMPO adlı dijital sağlık pilot programına dahil etti. Program, şirketlerin pazarlama öncesi izin gerekliliklerinden muaf tutulurken gerçek dünya verileri toplamasına olanak tanıyor. Katılımcılar arasında, yapay zekâyla çalışan bir sesli aracının kullanıcıyla etkileşime girdiği telefon görüşmeleri yoluyla bilişsel davranışçı terapi sunan Limbic de bulunuyor.
Buna karşılık, mevcut bazı özellikler FDA incelemesine tabi değil. Dexcom, 2024 yılında reçetesiz temin edilebilen glikoz sensörlerine üretken bir özellik ekleyerek kullanıcı verilerini analiz etti ve kişiselleştirilmiş sağlık önerileri sundu; şirket, bu özellik için pazarlama öncesinde düzenleyici başvuru gerekmediğini söyledi.
Ürün testinden yetkinlik temelli değerlendirmeye
Tartışma belgesi, üretken yapay zekânın mevcut cihaz çerçevelerine kolayca uymadığını kabul ediyor. Sistemler, değişen girdilere yanıt olarak farklı metinler veya görüntüler üretebilir; bu da tüm olasılıkların test edilmesini ve güvenlik ile etkililiğin ölçülmesini zorlaştırır. Güvenilir görünen yanlış bilgiler üretme, yani halüsinasyon, zaman içinde model performansının düşme ihtimalinin yanı sıra ek kaygılara yol açıyor.
FDA, doktorların sınavlar, gözetim ve kamuya açık bildirimler yoluyla değerlendirilme biçiminden yararlanarak “yetkinlik temelli değerlendirme” kavramını öneriyor. Pazarlama öncesi inceleme, mümkün olan her girdiyi ve çıktıyı incelemeye çalışmak yerine, büyük ölçüde kıyaslama ve gerekli yetkinlik düzeyini ölçen testlere dayanabilir.
Kurum ayrıca temel modeller için isteğe bağlı ana dosyalar oluşturulması fikrini de ortaya koyuyor. Bu tasarıma göre model veya temel platform geliştiricileri FDA’ya gizli bilgiler sunabilir. Böylece düzenleyici kurum, her cihaz geliştiricisinden dayandığı modelin tüm ticari sırlarını açıklamasını istemeden, tıbbi cihaz içinde kullanılan teknolojiyi anlayabilir.
Pazarlama sonrası izleme denklemin bir parçası olacak
Belge, cihazların piyasaya sunulmasından sonra izlenmesinin önemini vurguluyor. FDA, pazarlama öncesinde daha yüksek düzeyde belirsizliğe izin verilmesinin ve bunun karşılığında sonraki verilere ve izlemeye daha fazla dayanılmasının kabul edilebilir olup olmadığını değerlendiriyor. Haynes Boone’da avukat olan Kayla Cristales, kurumun güncellemeleri sunma ve cihazların gelişimini izleme konusunda büyük ölçüde şirketlerin kendilerine güvenebileceğini düşünüyor.
Bu nokta, yalnızca ilk ruhsatlandırma testinin çözemediği bir sorunu ele alıyor: Model değişebilir, kullanım verileri farklılaşabilir veya denemeler sırasında açıkça görülmeyen hata örüntüleri ortaya çıkabilir. Ancak kaynak, izleme ölçütlerini, güncellemelerin sıklığını veya geliştiriciler ile sağlık kuruluşlarının her birine düşen ayrıntılı sorumluluğu henüz belirlemiyor.
Bu haber neden önemli?
Şirketler kılavuzları farklı ölçülerde bekliyor. Ketryx’in CEO’su Erez Kaminski, bazı geliştiricilerin ilerlediğini, bazılarının ise şirketin büyüklüğüne ve risklere hazırlığına bağlı olarak beklemeyi tercih ettiğini söyledi. Metinde görüşlerine yer verilen uzmanlara göre mevcut araçların çoğu idari kullanımlara, iş akışının iyileştirilmesine veya bilinen kılavuzların uygulanmasına odaklanıyor; bunlar, ürünün denetime tabi bir tıbbi cihaz sayılmasını gerektirmeyebilecek alanlar.
Aidoc gibi düzenlemeye tabi alana girmeyi baştan kabul eden şirketler ise uzmanlaşmış kılavuzları yararlı buluyor, ancak bunları ilerleme için belirleyici bir koşul olarak görmüyor. UpDoc’un CEO’su Sharif Vakili, düzenleyici liderliğin bulunmamasının piyasayı farklı kurallardan oluşan bir karışıma veya kötüye kullanımlara yönelik gecikmiş tepkilere sürükleyebileceğini söyledi.
Editoryal açıdan bakıldığında, asıl değişim henüz bağlayıcı bir kuralın yayımlanması değil; FDA’nın yapay zekâya ilişkin genel bir tartışmadan belirli düzenleyici araçları sınamaya geçmesi: yetkinlik temelli değerlendirme, temel model dosyaları ve sürekli izleme. Bu, şirketlere ilk göstergeleri sağlıyor, ancak değişen modellerin nasıl onaylanacağı veya performans düştüğünde sorumluluğun nasıl belirleneceği henüz netleşmiş değil.
Ortaya atılan sorular cihaz şirketlerini aşıyor. NYU Grossman School of Medicine’da tıp etiği alanında yardımcı doçent olan Kellie Owens, pazarlama sonrasında daha güçlü denetim çağrısında bulunurken, Generation Patient’tan Luis Gil Abinader, dijital refakatçiler ve sohbet botları sağlık amacıyla pazarlansın veya pazarlanmasın, bunlar üzerinde daha fazla gözetim talep etti. Ticari sohbet botları, ruh sağlığı desteği için kullanılmalarına ilişkin kaygılara rağmen şu anda FDA’nın kapsamı dışında kalıyor; bazıları psikoterapi sunduğunu yanlış biçimde iddia ediyor. FDA’nın cihaz merkezi, dijital ruh sağlığı cihazları için klinik kanıt kılavuzlarını da mevcut mali yıl için hazırlık aşamasındaki çalışmalar listesine ekledi.