Anthropic, yapay zekâ yeteneklerinde yaşanan hızlanmaya ayak uydurabilmeleri için hükümetleri politikalarını güncellemeye çağırıyor. Şirketin iki önerisi, gelişmiş modellerin yönetimi ile teknolojinin çalışanlar ve ekonomi üzerindeki etkisine hazırlık konularını kapsıyor. Şirkete göre modellerin gelişim hızı, tek başına şeffaflığı yetersiz kılıyor; hükümet kurumlarının, bu yetkilerin kötüye kullanılmasını önleyecek güvencelerle birlikte, katastrofik riskler barındırabilecek dağıtımlarla başa çıkmak için daha geniş yetkilere ihtiyacı var.
İlk öneri, daha güçlü modellere ve bunlardan doğabilecek risklere odaklanan Gelişmiş Yapay Zekâ Çerçevesinden oluşuyor. İkinci öneri olan Ekonomik Çerçeve ise çalışanları ve ekonomiyi yapay zekânın etkisine hazırlamayı ve finansal faydalarının geniş ölçekte paylaşılmasını ele alıyor. Anthropic, iki çerçevenin tek bir sorunun iki yönünü ele aldığını söylüyor: teknoloji ilerlerken onu sorumlu biçimde yönlendirmek ve topluma getireceği değişimlere hazırlanmak.
Önerilen kuralların kapsamı
Gelişmiş çerçeve, 1025’ten fazla kayan nokta işlemi kullanılarak eğitilen ve yapay zekâyla bağlantılı 500 milyon dolardan fazla gelir elde eden ya da bu alandaki araştırma ve geliştirmeye 1 milyar dolardan fazla harcayan şirketlerin geliştirdiği modellere kurallar uygulanmasını öneriyor. Anthropic, bu kapsamın aynı gereklilikleri tüm yapay zekâ sistemlerine dayatmak yerine sınır modellerini hedeflediğini söylüyor.
Şirket, bu tür bir düzenlemeye duyulan ihtiyacı model yeteneklerindeki keskin yükseliş eğilimiyle ilişkilendiriyor. Birkaç yıl önceki modellerin kod yazmakta ancak zorlandığını, Anthropic’in aktardığına göre Claude Mythos Preview modelinin ise her büyük işletim sistemi ve tarayıcıdaki güvenlik açıkları da dâhil olmak üzere binlerce yüksek riskli yazılım açığı keşfettiğini belirtiyor. Şirket, buradan hareketle bu eğilimin sürmesinin katastrofik zarar risklerini artırabileceği sonucuna varıyor.
Dört risk türü
Çerçeve dört temel risk alanına odaklanıyor:
- Biyolojik riskler: Korumasız sistemler, biyolojik silah geliştirmeyi daha kolay ve daha düşük maliyetli hâle getirebilir; ancak aynı yetenekler ilaç keşfini de hızlandırabilir.
- Siber riskler: Gelişmiş yapay zekâ modelleri kritik açıkları geniş ölçekte keşfedebilir. Bu, sistemlerin savunulmasına yardımcı olabilir; ancak hastaneler ve enerji şebekeleri gibi temel altyapılara yönelik tehdidin seviyesini de yükseltir.
- Kontrolü kaybetme riskleri: Yetenekleri geliştikçe, geliştiricilerinin denetimi dışında hareket eden sistemleri kontrol etmek daha zor hâle gelebilir.
- Otomatik araştırma ve geliştirme: Sistemler yapay zekâ araştırma ve geliştirmesini otomatikleştirebilir ve bu da önceki üç riski katlayabilir.
Gelişmiş model geliştiricileri için gereklilikler
Anthropic, gelişmiş model geliştiricilerinin sistemlerini test etmesini ve sonuçların bir özetini yayımlamasını öneriyor. Buna ek olarak şirket; katastrofik risklerin nasıl değerlendirileceğini açıklayan bir güvenlik çerçevesi ile modellerin yeteneklerini ve risklerini açıklayan sistem kartları çağrısında bulunuyor. Çerçeve ayrıca risklerin genel durumuna ilişkin düzenli raporların yayımlanmasını ve bağımsız değerlendirmelerin düzenli olarak yapılmasını öneriyor. Şirket, bazı şeffaflık gerekliliklerinin Kaliforniya ve New York’taki yasalar kapsamında hâlihazırda zorunlu olduğunu belirtiyor; ancak kendi önerisinin bazı yönlerden bunların ötesine geçtiğini düşünüyor.
Öneri kapsamında her gelişmiş model geliştiricisi, en az bir nitelikli bağımsız değerlendiriciden yararlanmalı; bu değerlendirici de şirketin değerlendirmeleri ve risk raporlarına ilişkin bir inceleme yayımlamalı. Anthropic ayrıca hükümetleri ve teknoloji sektörünü, bağımsız değerlendiriciler için standartlar belirleyerek, finansman sağlayarak ve modellere yeterli erişim sunarak bu değerlendiricilerden oluşan bir ekosistem geliştirmeye çağırıyor.
Çerçeve, saldırganlar ve büyük kaynaklara sahip devlet kurumları da dâhil olmak üzere tehdit aktörleri için değerli hedefler olan model ağırlıklarını ve eğitimde kullanılan altyapıyı korumaya yönelik güvenlik gerekliliklerini de içeriyor. Şirket; tüm geliştirme ortamının dış ve iç tehditlere karşı güvence altına alınmasını, güvenlik programının genel çerçevesinin kamuoyuna açıklanmasını, talep üzerine belirli bir hükümet kurumuna ayrıntı sağlanmasını, model taklit saldırılarının bildirilmesi için kanallar oluşturulmasını ve savunmaların düzenli olarak test edilmesini öneriyor.
Güvencelerle birlikte hükümet yetkileri
Anthropic, hükümetlerin katastrofik zararlara yol açma bakımından ciddi risk oluşturan modellerin dağıtımını engellemek veya caydırmak için yasal yetkiye sahip olması gerektiğini düşünüyor. Şirket, küresel yıllık gelire bağlanan ve ihlallerin tekrarlanması hâlinde artan medeni yaptırımlar uygulanmasını öneriyor. Bununla birlikte geniş kapsamlı veya ağır düzenleyici yetkilere karşı uyarıda bulunuyor ve tehlikeli dağıtımları önlemek için belirli bir mekanizma ile bu yetkinin kötüye kullanılmasını sınırlayacak somut güvenceler öneriyor.
Çerçeve esas olarak ABD federal hükümetine odaklanıyor; ancak öneriden daha zayıf olmayan bir federal yasa kabul edilmedikçe eyalet yasalarının yürürlükten kaldırılmasını savunmuyor. Anthropic, eyaletlerin yetkilerinin kaldırılmasının sınırlı olması gerektiğini ve federal yasanın kapsadığı belirli güvenlik işlevlerinin dışında kaldıkları sürece çocuk güvenliği ve tüketicinin korunması gibi konuları düzenlemeye devam edebilmeleri gerektiğini söylüyor.
Toplumun dayanıklılığını güçlendirme
Çerçevenin ikinci bölümü, toplumun risklerle başa çıkma kapasitesini artırmaya yönelik önlemler öneriyor. Biyolojik alanda tavsiyeler arasında gen sentezinin taranması, yeni salgınların erken uyarı sistemleri aracılığıyla izlenmesi ve koruyucu ekipman ile hava yoluyla bulaşmayı azaltma araçlarının stoklanması yoluyla hazırlık yapılması yer alıyor.
Siber alanda Anthropic, internet ağının dayandığı yazılımların güçlendirilmesini, temel altyapı işletmecilerine teknik destek sağlanmasını ve bu altyapıda kullanılan eski sistemlerin değiştirilmesini istiyor. Ayrıca gelişmiş modellerin siber yeteneklerini izlemek üzere özel bir hükümet görevi oluşturulmasını ve siber yeteneklerin geniş ölçekte paylaşılmasına imkân verecek koruma yöntemlerinin geliştirilmesi için hükümet ile teknoloji sektörünün iş birliği yapmasını öneriyor.
Şirket, kontrolü kaybetme riskleri ve otomatik araştırma ve geliştirme karşısındaki dayanıklılık gündeminin hâlâ daha az gelişmiş olduğunu ve sektör genelinde daha fazla çalışmaya ihtiyaç bulunduğunu kabul ediyor. Belirttiği yönelimler arasında, geliştiricilerinin kontrolü dışında hareket eden sistemleri tespit etme ve bunlara yanıt verme yeteneklerinin geliştirilmesi ile bu sistemleri sınırlayacak veya durduracak bir altyapının kurulması bulunuyor.
Anthropic, önerileri hakkında geniş bir tartışma bekliyor; ancak yapay zekâ yetenekleri önümüzdeki aylarda gelişmeye devam ederken politika yapıcıları bu konularla şimdi ilgilenmeye çağırıyor. Şirket, sunulan öneriler tartışılmaya ve değerlendirilmeye devam ederken teknoloji yönetiminin bu gelişmeye ayak uydurması gerektiğini vurguluyor.