Eski bir Google mühendisi ve Makine Zekası Araştırma Enstitüsü (MIRI) Başkanı olan Nate Soares, yapay zekanın varoluşsal riskleri hakkındaki açıklamalarıyla teknoloji dünyasında geniş çaplı bir tartışma başlattı. The Atlantic dergisinin CEO'su Nicholas Thompson tarafından sunulan bir podcast'te konuşan Soares, bu teknolojinin hızlı ve kontrolsüz gelişimi sonucunda on yıl içinde insanlığın var olmayabileceğine dair %50'lik bir olasılık gördüğünü belirterek emeklilik için para biriktirmeyi tamamen bıraktığını açıkladı.
Bu tutum ne anlama geliyor?
Soares, Google'daki önceki çalışma döneminden kalan emeklilik birikimlerini koruduğunu ancak yaklaşık on yıldır bunlara yeni bir miktar eklemediğini açıkladı. Bu tutum, yapay zeka geliştirme hızının kontrol etme veya güvenliğini sağlama yeteneğimizin ötesine geçtiğini ve insan türünün geleceğini tehlikeye attığını düşünen bazı uzmanların derin karamsarlığını yansıtıyor.
Geliştirme hızı etrafındaki tartışmanın bağlamı
Soares'in açıklamaları, yapay zeka sektörünün inovasyon hızı konusunda keskin bir bölünme yaşadığı bir dönemde geldi. Anthropic CEO'su Dario Amodei, modellerin güvenliğini sağlamak için daha dengeli ve işbirlikçi bir yaklaşım benimsenmesi çağrısında bulunurken, bu çağrılar diğer taraflardan muhalefetle karşılaştı. Bazı şirket liderleri ve politikacılar, geliştirmeyi "yavaşlatmaya" yönelik herhangi bir girişimin teknoloji pazarında tekelleşmeyi güçlendireceğinden veya Çin gibi ülkelere stratejik bir rekabet avantajı sağlayacağından endişe ediyor.
ABD'nin siyasi tutumu
Resmi düzeyde, Amerika Birleşik Devletleri'ndeki Donald Trump yönetimi, geliştirme hızını engelleyebilecek düzenleyici kısıtlamalar getirmek yerine inovasyonu teşvik etmeye odaklanan bir yaklaşım benimsiyor. Trump, daha önceki vesilelerle yapay zekanın kontrolden çıkmasıyla ilgili korkuları "hastalıklı bir komplo" olarak nitelendirmiş ve bu alandaki çalışma hızını yavaşlatmanın uluslararası rakiplerin çıkarına olacağını vurgulamıştı; bu durum, teknolojik eğilimleri mevcut jeopolitik ve ekonomik çatışmaların merkezine yerleştiriyor.