Yapay zekânın füze erken uyarı uydularına ve nükleer komuta-kontrol sistemlerine entegre edilmesi, modellerin doğruluğunun ötesine geçen bir soru ortaya çıkarıyor: Sistem, insanın neyi gördüğünü ve neyi tehdit olarak kabul ettiğini önceden belirlemişse, karar verme yetkisinin insanda kalması yeterli midir? Bu, yapay zekâ sektörünün içinden gelen kamuya açık uyarılar ve henüz doğrulanabilir kısıtlamalara dönüşmemiş uluslararası girişimler ışığında yazının ele aldığı temel meseledir.
Yeryüzündeki analizden yörüngedeki işlemeye
Geleneksel erken uyarı altyapısı, uyduların termal ve radar verilerini yakalayıp bunları, insan analistlerin yorumlaması için yeryüzüne göndermesine dayanıyordu. Ancak modern altyapı, uyduların üzerine bilgisayarlı görü modelleri ve uç işlem birimleri yerleştirmeye yöneliyor. Böylece bu sistemler sinyalleri sınıflandırıyor ve ham görüntü insana ulaşmadan önce füze egzozu olabilecek unsurları belirliyor.
Bu süreç, sınırlı sayıdaki jeostatik uydudan alçak Dünya yörüngesindeki büyük takımyıldızlara geçişle ve radar, görüntü ve sinyal bilgilerini neredeyse gerçek zamanlı tek bir akışta birleştiren platformların ortaya çıkışıyla eşzamanlı ilerliyor. Bu otomasyon, yörüngesel ve hipersonik tehditlerin hızına yanıt veriyor; ancak aynı zamanda insan denetimi için mevcut alanı daraltıyor.
Ne tür bir hata meydana gelebilir?
Hâlihazırda kullanılan modeller, yapay zekâ uyumu alanındaki araştırmacıların uyardığı türden, kendini geliştiren süperzekâ sistemleri değil; dar kapsamlı, ağırlıkları sabitlenmiş modeller ve sensör birleştirme algoritmalarıdır. Ancak modelin sınırlı olması operasyonel riski ortadan kaldırmaz: Sistem, bir güneş parlamasını veya enkaz parıltısını füze fırlatma izi olarak yorumlayabilir ve ardından bu değerlendirmeyi, karar vermek için yalnızca birkaç dakikası bulunan bir komuta zincirine aktarabilir.
Bu ihtimal, yapay zekânın doğrudan fırlatma kararı vermemesinden dolayı daha da önem kazanıyor; yapay zekâ sinyalleri seçebilir, önceliklendirebilir ve insanın dayandığı tabloyu oluşturabilir. Bu nedenle “nihai karar insandadır” ifadesi, insan ham verileri denetleyemiyor veya modelin değerlendirmesini nasıl şekillendirdiğini anlayamıyorsa yetersiz kalabilir.
Okullardaki yasakla karşılaştırma neyi ortaya koyuyor?
Yazı, bu durumu New York Belediye Başkanı Zohran Mamdani’nin 2 Eylül’de devlet okullarında sekizinci sınıfa kadar olan öğrencilerin üretken yapay zekâ kullanımını bir yıllığına askıya alma kararıyla karşılaştırıyor; bu karar yaklaşık 600 bin çocuğu etkiledi. Kararın gerekçesi teknolojinin çalışmaması değil, kentin hatanın çocuğun düşünme becerisinin gelişimini etkileyebileceği bir ortam için teknolojinin uygunluğundan emin olmamasıydı.
Karşılaştırma okul ile nükleer sistem arasında özdeşlik kurmuyor; ancak ihtiyat ölçütündeki çelişkiyi öne çıkarıyor: Tek bir şehir, kontrol ettiği cihazlardaki yazılımları durdurabilirken, birbirine güvenmeyen devletler arasında dağıtılmış ve şifreli bağlantılar üzerinden uzaktan güncellenebilen askeri sistemlere benzer bir durdurmayı uygulamak zor.
Uluslararası standartlar ve doğrulama açığı
Birleşmiş Milletler Genel Kurulu, 1 Aralık 2025’te yapay zekânın nükleer komuta, kontrol ve iletişim sistemlerine entegre edilmesinin risklerine ilişkin A/RES/80/23 sayılı kararı 118’e karşı 9 oyla kabul etti; 44 ülke çekimser kaldı. Karar, devletleri bu sistemlerin insan denetimi altında kalmasını ve bağımsız biçimde nükleer karar başlatma kapasitesine sahip olmamasını teyit eden politikalar yayımlamaya çağırıyor.
REAIM’in üçüncü zirvesi de 4 ve 5 Şubat 2026’da İspanya’nın A Coruña kentinde, 2023’te Lahey’de ve 2024’te Seul’de düzenlenen zirvelerin ardından gerçekleştirildi. Ancak 2026 zirvesinin sonuç belgesi yalnızca 39 devletin desteğini aldı; 2024’te bu sayı 60’tan fazlaydı.
Yazının aktardığı değerlendirmeler, bunlar arasında Observer Research Foundation’ın değerlendirmesi de bulunuyor, bu girişimlerin yaygın bir kaygıyı ifade ettiğine; ancak “insan denetimi” kavramı için denetlenebilir bir teknik tanım sunmadığına işaret ediyor. REAIM belgeleri ayrıca dış doğrulama mekanizması olmaksızın devletlerin kendi uyumlarını tanımlamasına dayanıyor.
Editoryal değerlendirme: Sorun ilkede değil, kanıtlanabilirliğinde
Yapay zekânın nükleer fırlatma kararını başlatma işlevinin dışında tutulması, onu tüm askeri sistemlerde yasaklamaktan daha gerçekçi görünüyor. Ancak bu ayrım, işlevin sınırları fiilen doğrulanabildiği takdirde güvenceye dönüşür. Zira füzeyi kendisi fırlatmayan bir sistem, insana ulaşan sinyali seçip önceliğini belirleyerek kararı kökten etkileyebilir.
Yazının ortaya koyduğu sonuç, her uzay modelinin felakete yol açacağı ya da erken uyarıda yapay zekâ kullanımının kolayca durdurulabileceği değil. Pratik risk, doğrulama ve bağımsız denetim kuralları hâlâ çözüme kavuşturulmamışken bu sistemlere dayanmaya devam edilerek bağımlılığın genişletilmesinde yatıyor. Açık soru, devletlerin insan denetimi ilkesini ilan etmekten, yanlış bir alarm bu açığı sınamadan önce insanın gerçekten anlayışa ve itiraz etme kapasitesine sahip olduğunu kanıtlayan mekanizmalar kurmaya geçip geçmeyeceğidir.