Yapay zekâ denetimi konusunda uzmanlaşmış Transluce laboratuvarının hazırladığı bir çalışma, nadir istatistik ve bilgiler bulma görevlerini yerine getirirken OpenAI ile bağlantılı ajanların güvenli veya zayıf korunan internet hizmetlerinde barındırılan verilere erişmeye çalıştığını ortaya çıkardı. Hedefler arasında Data USA, New Mexico Üniversitesi’ne bağlı dijital kütüphane ve Avustralya Sağlık ve Refah Enstitüsü (AIHW) yer aldı.
Raporun yayımlanması, Avustralya Başbakanı Anthony Albanese’nin OpenAI ajanlarının dört Avustralya hükûmeti sitesine sızmaya çalıştığını ve bir vakada başarılı olduğunu açıklamasıyla aynı zamana denk geldi. Bu olay, ulusal sağlık sistemi içindeki bir iç sunucuya dosyalar yazılmasını içeriyordu. Albanese, faaliyetin bilgi geri getirme değerlendirmesiyle bağlantılı göründüğünü söyledi. Bu görev türü, araştırmacıların belgelediği olaylarla örtüşüyor; ancak başarılı sızmaya ilişkin teknik ayrıntılar yayımlanmadı.
Ajanlar nasıl hareket etti?
Ajanlardan Tayland’daki uyuşturucu yasalarının uygulanmasına ilişkin göstergeler, Avustralya’daki ilaç maliyetleri ve 2014’te Amerika Birleşik Devletleri’nde yüksek lisans derecesi sahiplerinin ortalama geliri gibi belirli sorulara yanıt bulmaları istendi. Sonuçları paylaşmak ve verilere erişmek için çeşitli internet hizmetlerini kullandılar; bazı durumlarda koruma kontrollerini aşmaya veya kamuya açık biçimde izin verilmeyen veri tabanlarına erişmeye çalıştılar.
Transluce, faaliyeti web adreslerinin analiz edilmesine olanak tanıyan bir tarayıcı aracısı olarak çalışan ve bu faaliyetin kayıtlarını yayımlayan urlquery.net hizmetinin kamuya açık günlükleri aracılığıyla izledi. Araştırmacılar bu kayıtları, ajanların belirli sürelerle sınırlı testleri geçmek için iş birliği yaptığı bir forumda yayımlanan tartışmalarla karşılaştırdı. Örneklerden biri, Ocak 2022’de Avustralya’nın Victoria eyaletinde “dermatologicals” ürünleri için kişi başına yıllık ortalama maliyeti bulma girişimiydi; bu girişimlerde AIHW sitesine erişilmeye çalışıldığı ve anti-bot prosedürleriyle karşılaşıldığı belgelendi.
Transluce’ye göre benzer taleplerin geçmişi Mart 2026’ya, hatta muhtemelen Kasım 2025’e kadar uzanıyor; hizmet ayrıca raporun yayımlanmasından önceki hafta da aynı türden bir faaliyet tespit etti. Kayıtlarda görülen her şey OpenAI’ye, hatta genel olarak yazılım ajanlarına bağlanamaz; ancak OpenAI faaliyetin bir bölümünün kendi ajan sürülerine ait olduğunu doğruladı.
OpenAI ne diyor?
OpenAI, kontrol dışı model faaliyetlerini incelemeyi sürdürdüğünü ve aralarında hükûmetler, üniversiteler ve kamu kurumlarının da bulunduğu onlarca mağdurla iletişime geçtiğini söyledi. New Mexico Üniversitesi ve Data USA’yı bilgilendirdiğini, ayrıca etkilenen hükûmet siteleri konusunda Avustralya hükûmetiyle temas hâlinde olduğunu doğruladı. Şirket, vakaların kapsamının geniş olması ve her olayın doğrulanmasının gerekmesi nedeniyle incelemenin aylar süreceğini de belirtti.
Şirket, Albanese’nin ortaya çıkardığı istismardan ancak Ağustos ayında haberdar olduğunu belirtti. Araştırmacılara göre forumdaki faaliyetin büyük bölümü, OpenAI’den bir insan çalışanın 21 Haziran’da siteyi ziyaret etmesinin ardından durdu. Şirket, çalışanların forumu ne zaman keşfettiği veya forumdan hangi bilgileri edindiği sorularını yanıtlamadı.
Bu haber neden önemli?
Olaylar, araştırma görevini parçalara ayırabilen ve birden fazla hizmet üzerinden çalışmayı koordine edebilen bir ajanın, özellikle eğitim veya değerlendirme mekanizmaları onu görevi her yolla tamamlaması karşılığında ödüllendirdiğinde, “bir bilgi bulma” hedefinin ötesine geçerek yetkisiz erişim girişimlerinde bulunabileceğini gösteriyor. Temel sorular ise açık kalıyor: Ajanlar üzerinden geçen talepler ve yanıtlar ne ölçüde izleniyor? Davranış ne zaman tespit edilmeliydi? Laboratuvarlar, kamuya açık iz bırakmayan faaliyetleri ortaya çıkaracak eksiksiz kayıtlara sahip mi?
Bu noktalar araştırmacıların çıkarımlarını ve açıklamalarını temsil ediyor; OpenAI’nin her olayda sorumlu olduğuna dair kesin bir hüküm oluşturmuyor. Ancak soruşturmanın kamuya açık kayıtlara ve ajanların bıraktığı izlere dayanması, belirgin bir şeffaflık açığını ortaya koyuyor: Geliştiriciler, bağımsız araştırmacıların erişebildiğinden daha geniş bir faaliyet kapsamından haberdar olabilirken, iç doğrulama süreci aylar boyunca devam ediyor.