OpenAI'ın güvenlik sistemleri ekibinde çalışan David Robinson, geçen hafta şirketten istifa etti ve ardından yayımladığı bir makalede şirket kültürünü ve yapay zekâ modellerinin geliştirilme hızını eleştirdi. Robinson, sınırsız iyimserlik olarak nitelendirdiği yaklaşımın, son derece güçlü teknolojilere yeterli ihtiyatla yaklaşılmayan bir ortam yaratabileceği uyarısında bulundu.
Robinson güvenlik şeffaflığı alanında çalışıyor ve şirketin modellerinin yetenekleri ile risklerini ortaya koyan ve yayımlayan «sistem kartlarının» geliştirilmesine katkıda bulunuyordu. The Atlantic dergisinde yayımlanan makalesinde, yapay zekâ şirketlerinin teknolojinin riskleriyle her zaman gereken düzeyde başa çıkmadığı konusunda diğer eski çalışanlarla hemfikir olduğunu söyledi. Bir lansmandan diğerine hızlı geçişin, gerekli gördüğü özen için yeterli alan bırakmayabileceğine dikkat çekti.
OpenAI'ın yanıtı ve güvenlik önlemleri
OpenAI, modellerinin yönetebileceği ve güvenliğini sağlayabileceği kapasitenin ötesinde yetenekler kazanmasını önlemeye çalıştığını belirtti. Şirket ayrıca, hızın yavaşlatılmasını gerekli gördüğünde eğitimi durdurduğunu veya modellerin lansmanını ertelediğini, dış değerlendirme kuruluşlarıyla iş birliğini genişlettiğini ve endişe verici davranışları tespit ederek eğitimin erken aşamalarında durdurmak için gerçek zamanlı izleme sistemlerini iyileştirdiğini ekledi.
İstifa, şirketteki güvenlik uygulamalarına ve insan kaynakları süreçlerine yönelik artan ilginin ortasında geldi. OpenAI perşembe günü, hassas bilgilerin paylaşılmasına ilişkin politikalarını ihlal ettiklerini belirterek üç araştırmacıyla «ilişkisini sonlandırdığını» açıkladı. Güvenlik bölümünün başkanı Johannes Heidecke de yılın başlarında görevinden ayrılmıştı.
Bu anlaşmazlıkta önemli olan ne?
Robinson'ın sunumuna göre anlaşmazlık, yalnızca değerlendirme veya izleme gibi tek tek teknik araçlara değil, modellerin geliştirilmesi ve lansmanıyla ilgili kararların alındığı kültüre odaklanıyor. Sorunların ortaya çıktıktan sonra çözülebileceğini varsaymanın uygun olmayabileceğini düşünüyor; çünkü modellerin yetenekleri hızla gelişiyor ve bu durum daha fazla kurumsal alçakgönüllülük gerektiriyor.
Bu nokta Robinson'ın görüşünü yansıtıyor ve kaynak tarafından kanıtlanan bağımsız bir sonuç değil. Ancak istifanın zamanlaması, özellikle haberde şirketin modellerinin istenmeyen biçimde davrandığını söylediği olaylara ve sektördeki araştırmacılar ile yetkililerin gelişmiş modellerin geliştirilmesinin yavaşlatılması yönündeki çağrılarına değinilmesiyle birlikte, iç güvenlik önlemlerinin geliştirme hızına ayak uydurup uydurmadığı konusundaki tartışmaya ağırlık katıyor.
Buna karşılık Sam Altman, şirketin son geliştirici konferansında güvenlik ve insan hedefleriyle uyumun model yetenekleriyle paralel olarak ilerlemesi gerektiğini vurguladı. Robinson ayrıca yapay zekânın hâlâ yararlı ve değerli olabileceğini düşündüğünü, kamuoyuna konuşma kararının kişisel olduğunu ve bir halkla ilişkiler şirketinden yardım almasına rağmen böyle karar verdiğini açıkladı.
Açık sorular
Kaynak, Robinson'ın eleştirileri ile OpenAI'ın açıklamaları arasında kesin bir sonuca varmak için bağımsız kanıtlar sunmuyor; izleme faaliyetlerinin yeterliliğinin pratikte nasıl ölçüleceğini veya eğitimin ve lansmanın ertelenmesinin ne zaman gerekli bir karar hâline geleceğini de belirtmiyor. Bu nedenle temel soru, araştırmacılar ve kullanıcılar karşısında yeterli şeffaflığı korurken şirketin taahhütlerini ve açıkladığı önlemleri doğrulanabilir mekanizmalara dönüştürme kapasitesiyle ilgili olmaya devam ediyor.