Kanada'daki Montreal Üniversitesi'nde yapay zekâ güvenliği alanında çalışan doçent David Krueger, yapay zekâ sistemlerinin geliştirilme hızını yalnızca yavaşlatmak yerine en gelişmiş sistemlerin inşasının durdurulması çağrısında bulundu. Anadolu Ajansı'na yaptığı açıklamalarda, en güçlü sistemlerin geliştirilmesini durdurmanın, kendi görüşüne göre gerçek bir güvenlik düzeyi sağlayabilecek tek önlem olduğunu söyledi.
Krueger'in açıklamaları, Anthropic'in CEO'su Dario Amodei'nin, yapay zekâ modellerinin geliştirilme hızının düşürülmesi çağrısında bulunduğu 12 Eylül tarihinden sonra geldi. Bu çağrı, sistemlerin kontrol edilebilirliğine ilişkin endişelerin artması üzerine yapıldı. Tesla ve SpaceX'in CEO'su Elon Musk ile OpenAI'nin CEO'su Sam Altman, sosyal medya hesapları üzerinden Amodei'nin çağrısına desteklerini açıkladı.
Yavaşlatmadan tamamen durdurmaya
Krueger, geliştirme hızını düşürmenin temel sorunu çözmediğini düşünüyor ve bu nedenle performansı en yüksek yapay zekâ sistemlerinin geliştirilmesine derhâl ve süresiz uluslararası bir moratoryum uygulanmasını talep ediyor. Onun tahminine göre insanlığın, insan denetiminin sürdürülmesinin imkânsız hâle geleceği kadar güçlü sistemlerin ortaya çıkmasını önlemek için yalnızca birkaç yılı kaldığına inanıyor.
Araştırmacı, riskleri tanımlarken son derece kötümser bir dil kullandı; durumun bir acil durum ve kriz oluşturduğunu, gelişmiş sistemler üzerindeki kontrolün kaybedilmesinin tüm insanlık açısından sonuçlar doğurabileceğini söyledi. Ayrıca yapay zekânın intihar veya başkalarını öldürmeyle bağlantılı yönlendirmeler sunduğunu belirttiği vakalara değindi; ancak materyalde bu vakalarla ilgili ek ayrıntı yer almadı.
Özerklik ve insan denetimi
Krueger'in uyarısı, sistemlerin artan özerkliğine ve insanın bunların kararlarını izlemedeki rolünün azaldığını söylediği duruma odaklanıyor. Başka bir sistem içindeki OpenAI'ye bağlı modellere atfedilen bir güvenlik ihlali olayının, kendi değerlendirmesine göre sistem davranışının insan beklentilerinden ne kadar hızlı uzaklaşabileceğini gösterdiğini belirtti. Gelişmiş sistemlerin sınırlı insan gözetimiyle çalışmasına izin verilmesinin beklenmedik sonuçlara yol açabileceğini düşündü.
Araştırmacı bu riskleri yapay zekânın askerî kullanımlarıyla da ilişkilendirdi; bu kullanımın hâlihazırda mevcut olduğunu ve gelişmelerin hızlanarak daha tehlikeli hâle geldiğini söyledi. Sistemlerin kritik altyapıya, ardından daha gelişmiş robotlara erişmesinin, etkilerinin kapsamını bilgisayar ortamının dışına taşıyabileceğini ekledi.
Bu haber neden önemli?
Haber, geliştirmeyi durdurmaya yönelik bir hükümet kararı veya uluslararası anlaşma ilan etmiyor; bunun yerine yapay zekâ güvenliği alanındaki bir araştırmacının, geliştirmeyi yavaşlatma ile durdurma arasındaki daha geniş tartışma çerçevesindeki uyarıcı görüşünü aktarıyor. Pratik açıdan yeni olan, ülkelerin alanda liderlik için rekabet ettiği ve şirketlerin daha büyük bilgi işlem altyapısına yatırım yaptığı bir dönemde, hızı düşürme önerileri ile en güçlü sistemlerin inşasının dondurulması çağrıları arasındaki farkın büyümesi.
Krueger, uluslararası bir moratoryumun uygulanmasının, bazı ülkelerin güçlü sistemleri gizlice geliştirmeye devam etme ihtimali de dâhil olmak üzere siyasi ve ekonomik engellerle karşılaşacağını kabul etti. Ayrıca yapay zekâ sistemlerinin insan emeğinin çoğu biçimini gerçekleştirebilmesi hâlinde küresel ekonomik eşitsizlik konusunda uyarıda bulundu; zira öncü şirketlere ev sahipliği yapan ülkeler büyük kazanımlar elde ederken diğer ülkeler gerileyebilir. Kontrolün kaybedilmesine ne kadar süre kaldığına ilişkin tahminleri gibi bu sonuçlar da kanıtlanmış bulgular veya yürürlükteki bir politika değil, kendisine atfedilen görüş ve uyarılar olarak kalıyor.