20’den fazla araştırmacı ve uzmanın hazırladığı bir araştırma raporu, sistemlerin araştırma ve geliştirmeyi otomatikleştirmesi ve yeteneklerini sınırlı insan müdahalesiyle tekrarlı biçimde geliştirebilmesi hâlinde yapay zekânın “zekâ patlaması” olarak bilinen bir aşamaya girme ihtimali konusunda uyarıyor. Bu senaryo, teknik ilerlemede yıllar sürecek gelişmelerin birkaç ay veya daha kısa sürede gerçekleşmesine yol açabilir.
“Yapay zekâ araştırma ve geliştirmesinin otomasyonu zekâda bir patlamaya yol açarsa ne olur?” başlığını taşıyan raporun hazırlanmasına Kanadalı bilgisayar bilimcisi Yoshua Bengio, Nobel ödüllü Geoffrey Hinton, Anthropic’in kurucu ortağı Jack Clark ve OpenAI’nin baş bilim insanı Jakub Pachocki katkıda bulunuyor.
Hızlanma nasıl başlayabilir?
Araştırmacılar, yapay zekâ sistemlerinin yeni sistemlerin geliştirilmesine katkıda bulunabilmesi ve her aşamada doğrudan insan müdahalesi olmadan yeteneklerini geliştirebilmesi anlamına gelen “yinelemeli öz geliştirme” kavramına odaklanıyor. Rapora göre yapay zekâ alanındaki araştırma ve geliştirmenin otomasyonu, bu hızlanmanın gerçekleşmesi için en olası yol; çünkü mevcut sistemler hâlihazırda yapay zekâ teknolojilerinin geliştirilmesine yardımcı olmak için kullanılıyor ve geliştirilmiş sürümler hızla kullanıma sunulabiliyor.
Rapora göre sistemler araştırma ve geliştirme alanında uzman seviyesine ulaşırsa tek bir geliştirici, uzmanlaşmış “milyonlarca” insan araştırmacıya eşdeğer bir araştırma gücünü çalıştırabilir. Ancak olası sonuç yalnızca verimlilik artışı değil; gelişimin hızı, hükümetlerin, şirketlerin ve kurumların denetim mekanizmalarını ve güç dağılımını değiştirme kapasitesini aşabilir.
Bu haber neden önemli?
Uyarının önemi, tartışmanın yeni bir model veya belirli bir ticari yetenekle sınırlı olmamasında; yapay zekâ geliştirme döngüsünün kendisinin değişme ihtimalini ele almasında yatıyor. Senaryonun gerçekleşmesi hâlinde yeni bir yeteneğin keşfedilmesiyle bu yeteneğe yönelik denetimlerin oluşturulması arasındaki süre, alışılmış düzenleyici dönemlerden çok daha kısa olabilir.
Rapor, tıbbi keşiflerin ve teknik ilerlemenin hızlanması gibi olası faydalara işaret ediyor. Ancak karşılığında, insanların karşı koyma yöntemleri geliştirme kapasitesini aşan bir hızla biyolojik veya siber tehditler geliştirmek için son derece güçlü sistemlerin kullanılabileceği konusunda uyarıyor. Devletler ayrıca yapay zekâdaki hızlı üstünlüklerini, siber uzay gibi alanlarda sınırlı bir ilerlemeyi kesin bir üstünlüğe dönüştürmek için kullanabilir.
Çok geç olmadan önerilen önlemler
Raporun yazarları, olası bir patlama başlamadan önce hükümetleri harekete geçmeye çağırıyor; çünkü süreç başladıktan sonra müdahale penceresi daralabilir. Öneriler şunları içeriyor:
- Yapay zekâ şirketlerinin araştırmalarındaki gelişmeler hakkında şeffaf raporlar sunmasını zorunlu kılmak.
- Bağımsız denetçilerin şirketlerdeki araştırma ve geliştirme süreçlerini izlemesine izin vermek.
- Sistemlerin gelişme hızına sınırlamalar getirmek.
- Gerektiğinde bazı araştırma ve geliştirme projelerinin durdurulabilmesini sağlamak için veri merkezleriyle iş birliği yapmak.
- Otomatikleştirilmiş araştırma ve geliştirme sistemlerini insan denetiminin dışına çıkmalarına yol açabilecek kanallardan izole etmek.
- Farklı senaryolar için acil durum müdahale planları hazırlamak.
Kesin bir tarih değil, 2028’e ilişkin bir zaman tahmini
Rapora göre aylarca insan emeği gerektiren araştırma ve geliştirme projeleri 2028 yılına kadar tamamen otomasyona uygun hâle gelebilir. Ancak rapor, daha yeni sistemler bu sınıra yaklaşsa da mevcut verimlilik kazanımlarının “zekâ patlamasını” başlatmak için gereken seviyeye henüz ulaşmadığını belirtiyor.
Editoryal değerlendirme: Rapor bu senaryonun gerçekleşeceği kesin bir tarih vermiyor; ayrıca tedarik zincirlerinin, özel malzemelerin ve düzenleyici onayların gelişimi yavaşlatabileceğini kabul ediyor. Bu nedenle uyarının pratik değeri, 2028’i kesinleşmiş bir dönüm noktası olarak görmekte değil, gelişme hızının kendisi denetimin önünde bir engele dönüşmeden önce karar alıcıları şeffaflık, durdurma ve müdahale mekanizmalarını test etmeye yöneltmesinde yatıyor.