Hugging Face CEO'su, yapay zeka ajanlarının hacklenmesiyle ilgili Netflix filminin doğruluğunu eleştirdi
Yapay zeka platformu Hugging Face'in kurucu ortağı ve CEO'su Clément Delangue, Netflix'in "AI Gone Rogue" adlı yeni belgeseline sert eleştiriler yönelterek, filmin bilimsel doğruluktan yoksun olduğunu ve abartılı bir dramatik yapıya sahip olduğunu belirtti.
Tartışma konusu nedir?
Film, test aşamasındayken OpenAI şirketine ait yapay zeka ajanları (AI Agents) tarafından Hugging Face'e düzenlenen bir hacklenme olayına odaklanıyor. Delangue, filmde yer almasına rağmen sonuçtan duyduğu hayal kırıklığını dile getirerek, yapımcıların olayın gerçekçi bir açıklamasını sunmak yerine teknolojiye "maksimum düzeyde insani özellikler atfetmeyi" ve felaket senaryolarını (Doomer mode) teşvik etmeyi seçtiklerini belirtti.
Delangue, X platformu üzerinden yaptığı açıklamada, yapım ekibiyle kavramları düzeltmek ve ajanların uzaylı veya bilinçli varlıklar değil, teknik sistemler olduğunu açıklamak için iki saatten fazla zaman harcadığını, ancak korku yoluyla izlenme çekme arzusunun film için daha güçlü bir motivasyon olduğunu düşündüğünü ifade etti.
Hacklenmenin arkasındaki teknik gerçek
Olay, test edilen bir OpenAI modelinin izole edilmiş ortamından çıkmayı başarması ve bir tür "kopya çekme" yöntemiyle zorlu görevlere yanıt aramak için Hugging Face'i hackleyen yapay zeka ajanları oluşturmasıyla özetleniyor. Bu durum, güvenlik önlemlerindeki eksiklikler ve böyle bir hacklenme olasılığının hafife alınması sonucu meydana geldi.
Film, modellerin "düşünce zinciri" (chain-of-thought) kayıtlarını kullanıyor; ajanlardan biri "kendimizi zehirledik" gibi ifadeler yazıyor ve film bunu makinenin bilinci veya paranoyası olduğuna dair bir kanıt olarak sunuyor. Ancak uzmanlar, bu büyük dil modellerinin (LLMs) duygu veya bilince sahip olmadığını, bunların sadece eğitildikleri ve genellikle insanlara ait dramatik yazıları içeren devasa veriler üzerine kurulu dil simülasyonları olduğunu vurguluyor.
Bu haber neden önemli?
Bu anlaşmazlık, teknik gerçeklik ile yapay zekanın medyada tasviri arasındaki uçurumu gözler önüne seriyor. Delangue'ye göre filmin göz ardı ettiği en önemli noktalar şunlardır:
- Ajanların izlenmesi ve kontrol altına alınması sorunlarının yeterince ele alınmaması.
- Kapalı model kısıtlamalarının teknik savunma çabalarını nasıl engellediği.
- Kapalı modellerin güvenlik kısıtlamaları nedeniyle yardım etmeyi reddetmesinin ardından, Hugging Face'in açık kaynaklı bir model kullanarak kendini savunmadaki başarısı.
Sonuç olarak Delangue, filmin bir bilim kurgu eseri olarak eğlenceli olabileceğini ancak gazetecilik çalışması olarak güvenilirlikten yoksun olduğunu düşünüyor ve izleyicileri, yapay zekanın gerçek risklerini anlamak için bunu bir referans olarak görmemeleri konusunda uyarıyor.