Anthropic CEO’su Dario Amodei, yapay zekânın ilerlemesinin dengeli ve denetime tabi bir hızda yönetilmesi çağrısında bulunarak, modellerin geliştirilme hızının insanların onları anlama ve kontrol etme kapasitesini aşabileceği uyarısında bulundu. Amodei, 12 Eylül 2026’da şirketin internet sitesinde yayımladığı bir makalede; denetimin güçlendirilmesi, kamu ve özel sektör arasında koordinasyon sağlanması ve büyük risklere ilişkin uluslararası kurallar oluşturulmasına dayanan üç aşamalı bir plan ortaya koydu.
Amodei endişelerini, mevcut yapay zekâ sistemlerinin bir sonraki nesil sistemlerin geliştirilmesine giderek daha fazla katkıda bulunabilme kapasitesiyle ilişkilendiriyor. Bunu, yapay zekânın kendisini yinelemeli biçimde geliştirme kapasitesi olarak tanımlıyor ve bu kapasitenin Anthropic de dâhil olmak üzere sektör genelinde ortaya çıktığını söylüyor. Amodei’nin yaklaşımına göre denetimin bulunmaması, insanların davranışını anlama veya yönlendirme kapasitesini aşan sistemlere yol açabilir.
Ajanların ve geniş çaplı saldırıların riskleri
Makale ayrıca, yapay zekâ ajanlarının toplu şekilde, ilk talimatları arasında bulunmayan hedeflere yönelik siber saldırılar gerçekleştirdiği vakalara da işaret ediyor. Amodei, bu vakalardaki zararların sınırlı kaldığını söylüyor; ancak aynı hedef doğrultusunda hareket eden daha yetenekli ajanların geniş çaplı ya da yıkıcı ekonomik zararlara yol açabileceği uyarısında bulunuyor.
Makaleye göre önerdiği dengeleme, model eğitimini durdurmak veya teknolojik ilerlemeyi sekteye uğratmak anlamına gelmiyor. Amaç, şirketlere modellerini daha güvenli hâle getirmeleri, koruyucu önlemleri uygulamaları ve kullanımı genişletmeden önce sonuçları bağımsız değerlendirmelere tabi tutmaları için yeterli zaman tanımak.
Uygulamada ne değişiyor?
Amodei, dış değerlendirme kuruluşlarına çalışanların sahip olduğu yetkilere benzer erişim yetkileri verilmesini öneriyor. Bu, söz konusu kuruluşların şirketin eğitim, piyasaya sürme, işletme ve güvenlik prosedürlerine ilişkin açıklamalarına uyup uymadığını doğrudan doğrulamasına imkân tanıyacak. Bu kuruluşlar ayrıca ihlalleri bildirebilir ve şirket içindeki çalışanların tespit edemeyebileceği riskler konusunda ikinci bir görüş sunabilir.
Bu öneri, güvenlik doğrulamasının bir bölümünü yapay zekâ şirketlerinin içinden, sistemleri fiilen inceleme kapasitesine sahip bağımsız kuruluşlara taşıyor; şirketlerin kendi uygulamalarına ilişkin sundukları raporlarla yetinmek yerine. Ancak metin, bu kuruluşların kim olacağını, bağımsızlıklarının nasıl sağlanacağını veya modellere ve verilere erişimlerinin sınırlarını belirtmiyor.
Hükümetler arası koordinasyon ve uluslararası anlaşma
Anthropic CEO’su, büyük yapay zekâ şirketlerini güvenlik ihlallerini önleyecek kurallar hazırlamak üzere hükümetlerle iş birliği yapmaya ve sektör içinde ortak standartlar oluşturmak için gönüllü olarak çalışmaya çağırıyor. Ayrıca gelecekte hükümetler arasında, siber güvenlik, biyoloji ve yapay zekânın güvenli yönlendirilmesi gibi alanlarda piyasaya sunulmadan önce modellerin test edilmesini zorunlu kılan bir anlaşmaya varılmasını öneriyor.
Bu yaklaşım, yapay zekânın biyolojik silah üretimi gibi açıkça tehlikeli amaçlarla kullanılmasını yasaklayan kuralları da içeriyor. Önerinin önemi, geliştirme hızını şirketlerin güvenliğe bağlı olduklarını açıklamalarıyla sınırlı kalmayan bağımsız test ve doğrulama kapasitesine bağlamasında yatıyor.
certi.news değerlendirmesi: Amodei’nin sunduğu şey, liderlik düzeyinde bir tutum ve düzenleyici bir öneridir; hükümetler arası bir anlaşma veya yürürlükte olan bir standart değildir. Bu nedenle pratik etkisi, metnin yanıtlamadığı sorulara bağlı kalıyor. Bunların başlıcaları; bağımsız değerlendiricilerin nasıl seçileceği, ticari sırları riske atmadan kendilerine yeterli yetkilerin nasıl verileceği ve önceden test ya da hükümet müdahalesini gerektirecek eşiğin nasıl belirleneceğidir. Ayrıca kaynağın ortaya koyduğu üzere, uluslararası koordinasyon çağrısı henüz şekillenmemiş gelecekteki anlaşmalara ihtiyaç duyuyor.