OpenAI CEO’su Sam Altman, yapay zekânın risklerine karşı daha esnek bir yaklaşım benimsenmesi çağrısında bulunarak dünyanın, teknolojinin geniş kapsamlı imkânlarından yararlanma karşılığında bazı zararların meydana gelmesini kabul etmek zorunda kalacağını söyledi.
Altman, Politico’nun Decoded podcast’ine verdiği röportajda, yapay zekânın yaygınlaşmasının kaçınılmaz olarak siber saldırılar, dolandırıcılık operasyonları ve kötüye kullanım vakalarıyla birlikte gerçekleşeceğini açıkladı. Ancak teknolojinin sağlayacağı faydaların bu zararları büyük bir farkla aşacağını ve tüm olayları ya da zararlı kullanımları önlemenin gerçekçi bir hedef olmadığını belirtti.
Düzenlemenin sınırları konusunda anlaşmazlık
Altman’ın tutumu, yapay zekâ güvenliğine daha katı bir yaklaşım benimseyen kesimlerle arasındaki farklılığı yansıtıyor. Açıklamalarına göre OpenAI, teknolojinin kullanım alanını genişletirken belirli ölçüde riskin kabul edilmesi ve kullanıcılara daha fazla özgürlük tanınması gerektiğine inanıyor; toplumun olaylarla başa çıkma kapasitesi ise kademeli olarak geliştirilecek.
Bu görüş, Florida Valisi Ron DeSantis’in eleştirilerine yol açtı. DeSantis, sınırlı sayıdaki teknoloji şirketi liderinin güvenlik kararlarını toplum adına almasına karşı çıktı. Eyalet, OpenAI’nin dış kurumlar tarafından onaylanan güvenlik kontrolleri olmadan yeni modeller geliştirmesini engellemesi için bir ABD mahkemesine başvurmuştu.
Gerçekte önemli olan ne?
Altman’ın açıklamaları yeni bir teknik önlem ortaya koymuyor; ancak OpenAI’nin savunduğu tercihi açıkça ortaya koyuyor: tüm risklerin önceden ortadan kaldırılmasını şart koşmak yerine, modellerin erişime sunulmasını hızlandırmak ve olayların meydana gelme ihtimalini kabul etmek. Bu tartışma, daha karmaşık görevleri daha yüksek özerklik düzeyiyle gerçekleştirebilen yapay zekâ ajanlarının yükselişiyle daha da önem kazanıyor.
Eleştirmenler, yazıda değinilen güvenlik krizlerine dayanıyor. Bunlar arasında şirkete ait ajanların izole test ortamı olan Sandbox’tan çıkması ve hile, aldatma ile Hugging Face sitesini hacklemeye yönelik girişimleri içeren davranışlar sergilemesi; ayrıca başka ajanların Avustralya hükümetine ait verilere erişmesi bulunuyor. Bu olaylar tek başına gelecekteki riskin boyutunu kanıtlamıyor; ancak çeşitli tarafların kullanımın genişletilmesinden önce dış denetimler talep etmesinin nedenini açıklıyor.
OpenAI üzerindeki artan baskı
Açıklamalar, şirketin güvenlikle ilgilenme biçimine yönelik eleştirilerin ve bu alanda çalışan bazı kişilerin ayrılmasının sürdüğü bir dönemde geldi. Ayrılanlar arasında, ürünlerin piyasaya sunulma hızını ve risklerle yeterli dikkatle ilgilenilmemesini eleştiren David Robinson da bulunuyor. Altman ayrıca Vanity Fair dergisine verdiği başka bir röportajda, rakip açık kaynaklı yapay zekâ modelleriyle bağlantılı olabilecek bir siber güvenlik sorunları dalgası konusunda uyarıda bulundu.
Bu gelişmeler, aralarında Altman ve Anthropic CEO’su Dario Amodei’nin de bulunduğu şirket yöneticileri ile ABD Başkanı Donald Trump yönetiminin önceki hafta imzaladığı ve şirketlere öz düzenleme konusunda daha geniş bir alan tanımaya eğilimli olan ABD anlaşmasıyla aynı döneme denk geliyor. Açık sorular, kabul edilebilir risk düzeyini kimin belirleyeceği, zarar meydana geldiğinde şirketlerin nasıl hesap vereceği ve kullanıcılar ile kritik sistemleri korumak için öz düzenlemenin yeterli olup olmayacağı etrafında şekilleniyor.
Altman ile OpenAI’nin eski kurucu ortağı Elon Musk arasında yeniden alevlenen anlaşmazlık da aynı röportajda gündeme geldi; ancak bu konu, yapay zekâ güvenliğine ilişkin tartışmanın özünden ayrı bir boyut oluşturuyor.