İngiliz Parlamentosu'nda düzenlenen bir oturumun ardından «süper yapay zekânın» (ASI) riskleri konusunda siyasi ve bilimsel tartışma yoğunlaştı. Oturumda yetkililer ve araştırmacılar, bu sistemlerin insanlar tarafından kontrol edilmesini zorlaştıracak bir yetenek düzeyine ulaşabileceği konusunda uyardı. Eski İngiltere Savunma Bakanı Des Browne, potansiyel tehdidin nükleer savaş riskine denk olabileceğini, hatta onu aşabileceğini söyledi.
Oturuma, yapay zekâ için uluslararası kurallar oluşturulmasını savunan ve İngiliz Parlamentosu'nun görüştüğü, süper yapay zekânın geliştirilmesini yasaklamaya yönelik yasa tasarısını destekleyen Control AI koalisyonu da katıldı. Berkeley'deki Kaliforniya Üniversitesi'nden bilgisayar bilimci Stuart Russell, geniş çaplı bir felaket yaşanması ve insanlığın yapay zekâ sistemleri üzerindeki kontrolünü geri döndürülemez biçimde kaybetmesi ihtimaline karşı uyardı.
Riskin Boyutuna İlişkin Farklı Tahminler
Anthropic şirketinde uyum araştırmalarından sorumlu Evan Hubinger, bu teknolojinin önümüzdeki on yıl içinde tüm insanların ölümüne yol açma ihtimalinin %10'dan fazla olduğunu söylemesinin ardından tartışma yarattı. Bu oran, uzmanlar arasında üzerinde uzlaşılmış bir sonuç değil; gelecekteki riskler hakkındaki daha geniş bir tartışma kapsamında Hubinger'a atfedilen bir tahmin.
Bu gelişme, daha önce OpenAI'de çalışan 28 yaşındaki Jacob Coxon'ın Anthropic'ten istifa etmesiyle aynı döneme denk geldi. Coxon, iki şirketin sorumlu davranmadığını ve önce süper yapay zekâya ulaşma yarışına sıkışıp kaldıklarını söyledi; ancak büyük Amerikan laboratuvarlarının bu yarışı yavaşlatmak için koordinasyon sağlayabileceğini umduğunu belirtti. Uzmanlar arasında bu yeteneklerin ne zaman ortaya çıkacağı konusunda bir uzlaşma bulunmuyor; bazıları birkaç yıldan söz ederken, diğerleri on yıldan daha uzun bir süre öngörüyor.
Uyarıdan Uluslararası Kurallara
İşçi Partili milletvekili Darren Jones, «süper zekânın düzenli ve güvenli biçimde geliştirilmesine yönelik çok taraflı bir anlaşma» çağrısında bulundu. Jones'a göre amaç, araştırma ve yenilikçiliği durdurmak değil, gelişim hızlanırken güvenliğe öncelik vermek. İngiliz hükümeti ayrıca Anthropic'in en yeni modeli Mythos 5.1'i piyasaya sürülmeden önce test edilmek üzere İngiliz Yapay Zekâ Güvenliği Enstitüsü'ne sunmamasından endişe duyduğunu belirtti. Kabine Ofisi, sınırlı sayıda Amerikan kurumunun modele erişim sağladığını, enstitü ile şirketler arasındaki iş birliğinin ise sürdüğünü söyledi.
Amerika Birleşik Devletleri'nde Senatör Bernie Sanders, Amerikalıların %81'inin politikacıların yapay zekâ konusunda adım atması gerektiğini düşündüğünü belirten bir ankete dayanarak Kongre'yi harekete geçmeye çağırdı. Sanders, tartışmayı ekonominin, çevrenin, demokrasinin ve mahremiyetin geleceğiyle ilişkilendiriyor.
Bu Haber Neden Önemli?
Tartışma, olasılıklarını doğrulamanın zor olduğu uzun vadeli risklerle bugün gözlemlenebilen mevcut riskler arasındaki boşluğu ortaya koyuyor. Andrew Rogoyevski, mevcut sistemlerin hâlâ insan esnekliğinden uzak olduğu ve gelişmiş yapay zekâ teknolojilerinin maliyetli veya sınırlı faydaya sahip olabileceği konusunda uyardı. David Barber, sistemlerin internete ve çeşitli sistemlere sınırsız erişim elde etmesi durumunda pratik sorunun daha da büyüyebileceğini söyledi. Sandra Wachter ise dezenformasyon, çevresel etki ve istihdamı gerçek ve acil meseleler olarak nitelendirdi.
Gary Marcus, belirleyici farkın insan çıkarlarıyla uyumlu bir süper yapay zekâ ile bu çıkarlara uyumlu olmayan bir süper yapay zekâ arasında olacağını düşünüyor; ayrıca mevcut tartışmanın medya gürültüsü ve temkin ile sorumluluk eksikliği içerdiğini kabul ediyor. Dolayısıyla kaynak, insanlığın yok olması senaryosunun yakın veya kesin olduğunu kanıtlamıyor; ancak risk düzeyine ilişkin anlaşmazlığın artık yalnızca akademik olmadığını, mevzuat, piyasaya sürülme öncesi testler ve modellerin sistemlere erişim sınırlarıyla bağlantılı hâle geldiğini gösteriyor.