Kral Charles, İskoçya’nın Ayrshire bölgesindeki Dumfries House’da 17 Eylül Perşembe günü düzenlediği özel zirve sırasında yapay zekâ şirketlerinin liderlerini ve hükümet yetkililerini, bu teknolojiyi “çok geç olmadan” kontrol altına alacak yeterli yollar bulmaya çağırdı.
Toplantıya Nvidia Üst Yöneticisi Jensen Huang, OpenAI ve Anthropic yöneticileri, yeni Birleşik Krallık Yapay Zekâ Bakanı Kanishka Narayan ve Britanya dış istihbarat teşkilatının başkanı katıldı. Yapay zekâ konusunda papaya danışmanlık yapan Paolo Benanti de toplantıda yer aldı. OpenAI’yi Mali İşler Direktörü Sarah Friar temsil ederken Anthropic adına küresel ilişkiler sorumlusu Tino Cuéllar katıldı.
Faydalara ve risklere ilişkin birlikte uyarı
Kral, yapay zekânın özellikle tıp ve bilim alanlarında yaşamı iyileştirme ve kurtarma konusunda büyük bir potansiyele sahip olduğunu söyledi. Ancak aynı zamanda bu teknolojilerin geliştiricilerinin, teknolojinin giderek “daha karanlık yeteneklere” ve muhtemelen can alma kapasitesine sahip olabileceği konusunda daha fazla uyarıda bulunduğuna dikkat çekti.
Charles, bu endişeleri teknolojinin yanlış ellere geçmesi ve felaket niteliğinde olabilecek şekillerde kullanılması sonucunda ortaya çıkabilecek “varoluşsal tehlikelerle” ilişkilendirdi. Ayrıca yapay zekânın hızlı gelişimini “ilgi çekici ve son derece endişe verici” olarak nitelendirdi ve katılımcıları teknolojinin insanlığın, toplumun ve doğal dünyanın hizmetinde kalmasını sağlamaya çağırdı.
Raporlara göre kral yalnızca yaklaşık 20 dakika kaldı, ardından katılımcıları tartışmayı kendi aralarında sürdürmeleri için bıraktı. Cuéllar, Anthropic’in toplantıya katılmaktan onur duyduğunu ve yapay zekânın kamu yararına hizmet etmedeki rolünü görüşmek üzere sektör liderlerini ve toplumun çeşitli kesimlerinden temsilcileri bir araya getirdiği için krala teşekkür ettiğini söyledi.
Bu toplantı neden önemli?
Toplantı yeni bir düzenleyici politika veya bağlayıcı bir anlaşma duyurusu anlamına gelmiyor. Ancak yapay zekâ riskleri tartışmasının model geliştiren şirketleri, hükümetleri, istihbarat teşkilatlarını ve dinî ve toplumsal şahsiyetleri bir araya getiren bir alana taşındığını gösteriyor. Gelişmiş modellerin geliştirilmesinin yavaşlatılması mı yoksa daha hızlı bir tempoda sürdürülmesi mi gerektiğine ilişkin anlaşmazlık devam ederken bu kesişim daha da önem kazanıyor.
Zirve, Anthropic’te şirketlerin insanlardan daha zeki makineler geliştirme yarışına ilişkin kamuoyu önünde uyarıda bulunan bir araştırmacının istifasından ve Sam Altman, Elon Musk ve Dario Amodei’nin geliştirme sürecinin yavaşlatılması çağrılarından günler sonra düzenlendi. Buna karşılık Jensen Huang ve ABD Başkanı Donald Trump bu çağrıları reddetti. Trump, ABD’nin yapay zekâ alanında Çin’in önünde olduğunu ve bu alanda kazananın daha geniş rekabeti de kazanacağını söyledi.
Uygulama ayrıntıları olmadan uluslararası iş birliği
Charles ayrıca yapay zekânın kamu yararına yönlendirilmesi konusunda uluslararası iş birliği ve uzlaşma çağrısında bulundu. Ancak kaynak, zirvenin resmî sonuçlarını, belirli denetim mekanizmalarını veya bu çağrının politikalara dönüştürülmesi için bir takvimi belirtmiyor. Ayrıca, maddeye göre Anthropic’in Fable ve Mythos modellerine erişimi yalnızca ABD’deki müşterilerle sınırlandırmasının ardından, yapay zekâ egemenliği konusundaki tartışma da sürüyor.
certi.news değerlendirmesi: Zirvenin asıl değeri yeni bir karar alınmasında değil, yapay zekâ yönetişimini tartışan taraflar çevresinin genişlemesinde yatıyor. Zirve, güvenlik kaygıları, jeopolitik rekabet ve teknoloji şirketlerinin çıkarları arasındaki açık çatışmayı yansıtıyor. Bununla birlikte temel soru hâlâ yanıtlanmış değil: Kontrolün sınırlarını kim belirleyecek ve geliştirme hızının kurumların yanıt verme kapasitesini aşmasından önce bu sınırlar uluslararası düzeyde nasıl uygulanabilecek?