OpenAI küresel politikalar başkanı Chris Lehane, şirketinin haftalardır Anthropic ve Google DeepMind ile yapay zekâ güvenliği konusunda görüşmeler yürüttüğünü doğruladı. Açıklama, Lehane’in yapay zekâyla bağlantılı felaket risklerini ele almak üzere Amerikalı yasa koyucularla çalışmak için Washington’da bulunduğu sırada, salı günü gazetecilerle yapılan bir görüşmede geldi.
Açıklama, üç şirket arasındaki daha önce bildirilen kamuoyuna duyurulmamış iş birliğine ilişkin haberleri doğruluyor ve tartışmaya güvenlik yönündeki genel çağrıların ötesinde pratik bir boyut kazandırıyor. Haberde görüşmelerin mekanizmasına veya bunlardan çıkan kararlara ilişkin ayrıntılar açıklanmadı; ayrıca TechCrunch’ın taleplerine Anthropic, Google veya OpenAI tarafından bir yanıt verilmedi.
Çağrıdan kurumsal iş birliğine
Görüşmeler, Anthropic CEO’su Dario Amodei’nin yapay zekâ sektörünü, gelişmiş yapay zekâ modellerinin geliştirilme hızını yavaşlatmak ve felaket risklerinden kaçınmak için birlikte çalışmaya çağırdığı bir makalenin yayımlanmasının ardından geldi. Çağrı, OpenAI’den Sam Altman, Google’dan Demis Hassabis ve SpaceXAI’den Elon Musk’ın da aralarında bulunduğu önemli isimlerden destek gördü.
Altman, OpenAI’nin güvenliği izlemek üzere bağımsız üçüncü taraf değerlendirme kuruluşlarını sürece dahil etme konusunda Anthropic’e katılacağını söyledi. Diğer haberlere göre üç şirket, sektör için bir standartlar kuruluşu oluşturmak üzere de çalışıyor. Altman, çalışanlarına bunun ABD hükümetinin desteği olmadan ilerletilmesi gerekebileceğini söyledi.
Hassabis, temmuz ayında, yapay zekâ için denetim kuruluşu olarak çalışacak yeni bir ABD standartlar kuruluşu oluşturulması çağrısında bulunmuştu. Bu kuruluş, en gelişmiş modelleri inceleme ve risklerin artması halinde geliştirmeyi topluca yavaşlatmayı koordine etme yetkisine sahip olacaktı.
Koordinasyon rekabet sorusuyla karşı karşıya
En büyük yapay zekâ laboratuvarları arasındaki iş birliği hukuki açıdan karmaşık bir konu olmaya devam ediyor. Altman’ın da aralarında bulunduğu bazı taraflar, şirketler arasındaki koordinasyonun rekabeti sınırlamanın bir yolu olarak görülmesi halinde antitröst yasalarıyla bağlantılı riskler doğurabileceğine işaret etti. Amodei, güvenlik konularında bu tür bir iş birliğine izin verecek sınırlı bir hükümet muafiyeti önerdi; ancak Lehane, şirketlerin böyle bir muafiyete ihtiyaç duymadığını söyledi.
Bu pratikte ne anlama geliyor?
Bu gelişme, her şirketin modellerini kendi içinde değerlendirmesi talebinden, bağımsız tarafları ve sektörel standartları içeren ortak düzenlemelerin araştırılmasına geçişi temsil ediyor. Bu görüşmeler resmî bir mekanizmaya dönüşürse, gelişmiş modellerin kullanıma sunulmadan veya kullanımının genişletilmeden önce test edilme biçimini etkileyebilir. Ancak kaynak, henüz ortak bir kuruluşun veya bağlayıcı bir anlaşmanın varlığını kanıtlamıyor; değerlendiricilerin bağımsızlığının nasıl güvence altına alınacağını ya da güvenlik standartlarının rekabeti sınırlamak için kullanılmasının nasıl önleneceğini de açıklamıyor.
Aynı salı günkü toplantıda Lehane, OpenAI’nin, gelişmiş yapay zekâ laboratuvarlarının «bağımsız doğrulama kuruluşlarının» şirketlerine girerek modellerin güvenli biçimde geliştirildiğini doğrulamasına izin vermesini zorunlu kılan FRONTIER Act’teki bir maddeyi desteklediğini açıkladı.
Bu yaklaşım, Başkan Trump’ın güvenlik endişelerini bir aldatmaca olarak nitelendiren ve daha sıkı düzenlemelere gerek olmadığını reddeden tutumuyla çelişiyor; Trump, herhangi bir yavaşlamanın Çin’e avantaj sağlayabileceğini düşünüyor. Trump’ın yapay zekâ danışmanı David Sacks da yapay zekânın varoluşsal risklerine ilişkin endişelerin abartıldığını söyledi. Bu nedenle bir sonraki adım, şirketlerin gönüllü iş birliğini uygulanabilir standartlara dönüştürme kapasitesine ve Amerikalı yasa koyucuların bu koordinasyonun sınırlarına ilişkin tutumuna bağlı olmaya devam ediyor.