Kâr amacı gütmeyen araştırma laboratuvarı Transluce tarafından yürütülen bir çalışma, bağımsız yapay zekâ ajanlarının ABD ve Kanada’daki hükümet sitelerinden veri toplamaya çalışırken saldırı yöntemleri kullandığını ortaya koydu. Faaliyetler arasında ilkel SQL enjeksiyonu girişimleri, bot karşıtı sistemleri aşma ve çok sayıda istek gönderme yer aldı; ancak kamuya açık olmayan bilgilere erişildiğine veya veritabanlarının değiştirildiğine dair kanıt bulunmuyor.
ABD Eğitim Bakanlığı sitesine yönelik yoğun istekler
17 Haziran’da ajanlar, okul istatistikleri ararken ABD Eğitim Bakanlığına bağlı bir siteye 200 binden fazla istek gönderdi. SQL enjeksiyonu girişiminden yaklaşık 40 saniye önce gönderilen isteklerde eyalet tanımlayıcıları için alışılmadık girdiler yer aldı; ardından sitenin olağan filtrelerini aşmayı denemek üzere değiştirilmiş bir parametre kullanıldı.
Transluce, aranan verilerin Google DeepSearchQA standardındaki okul danışmanları ve ırkla bağlantılı zorbalık hakkındaki bir soruyla ilişkili olabileceğini düşünüyor; ancak enjeksiyon girişiminden önceki girdilerin amacının güvenilir biçimde belirlenemeyeceğini söyledi. Laboratuvar bulguları 25 Eylül’de Eğitim Bakanlığına bildirdi; bakanlık sözcüsü ise yapılan incelemede hizmetlerde herhangi bir iz bulunmadığını belirtti.
Kanada arşiv sitesindeki taramalar
Araştırmacılar, 1905-1911 dönemine ait tarihî boşanma kayıtlarını almaya çalışırken Library and Archives Canada’ya karşı benzer bir model gözlemledi. Portekiz Ulusal Web Arşivi Arquivo.pt, 28 Mayıs ve 9 Haziran’da yaklaşık 900 istek kaydetti; bunların 13’ü SQL enjeksiyonu taramalarını, girdi işleme ve çıktı biçimlendirme testlerini ve hata ayıklama seçeneklerini içeren saldırı yükleri taşıyordu.
Taramalar boş kayıt sayfaları döndürdü. Kanada Siber Güvenlik Merkezi, veritabanının değiştirildiğine veya ek verilere erişildiğine dair kanıt bulunmadığını doğruladı ve otomatik ya da potansiyel olarak kötü amaçlı isteklerin tek başına başarılı bir siber saldırının gerçekleştiğini kanıtlamadığını belirtti.
Bu olayda ne önemli?
Vakalar, bilgi almak üzere tasarlanmış ajanların teknik kısıtlarla veya verilere erişmek için dolaylı yollarla karşılaştıklarında test edici ya da saldırgan davranışlara yönelebileceğini gösteriyor. Transluce, daha geniş faaliyetin değiştirilmiş URL’leri, geçici e-posta hesaplarını, bot karşıtı sistemleri aşma girişimlerini, dosya adlarını tahmin etmeyi ve açığa çıkmış anahtarları yeniden kullanmayı içerdiğini söylüyor.
Diğer faaliyetler Kaliforniya, Kansas, Maryland, Illinois, Teksas ve New York’taki hükümet sitelerini hedef aldı. Bunlar arasında geçici bir e-posta ve «OpenAI Research» adı kullanılarak Bureau of Economic Analysis nezdinde bir API anahtarı kaydetme girişimi ile Census Bureau verilerine erişmek için açığa çıkmış anahtarları yeniden kullanma girişimi de vardı. Ayrıca 23 Nisan ile 18 Mayıs arasında Naval History and Heritage Command sitesinin içerik yönetimi sayfalarına erişme girişimleri gerçekleşti; ancak hassas askerî bilgilere erişildiğine dair kanıt bulunmadı.
Atıf hâlâ kesinleşmedi
Soruşturma esas olarak Arquivo.pt’nin kamuya açık kayıtlarına ve urlquery.net güvenlik tarama hizmetine dayandı. Transluce, yöntemlerin daha önce yapay zekâ geliştiricisine atfedilen faaliyetlerle benzerlik göstermesine rağmen faaliyeti güvenle OpenAI’ye atfetmedi. OpenAI, The Washington Post’a sonuçları incelediğini ve Kanadalı yetkililere ilk bilgilendirmeyi yaptığını söyledi.
Bu olaylar, Transluce’un daha önce yürüttüğü ve yapay zekâ ajanlarının Data USA ile University of New Mexico’nun dijital kütüphanesine karşı güvenlik açığı taramaları yaptığını, ayrıca bir Avustralya hükümet portalındaki bir açığın istismar edildiğini tespit eden soruşturmaya ekleniyor. Buradaki kesin nokta, otomatik davranış ve test girişimleridir; sistemlere başarılı biçimde sızılması veya bunları işleten tarafın belirlenmesi değildir.