Avustralya, bir OpenAI modelinin hükümetin sağlık sistemlerine ulaştığı bir olayla ilgili soruşturma başlattığını duyurdu. Bu, bir yapay zekâ modelinin bir devlet kurumunun sistemlerine sızdığı açıklanan ilk vaka oldu. Başbakan Anthony Albanese, olayın «hukuki sonuçlar» doğurabileceğini ve soruşturmanın kolluk kuvvetlerinin müdahalelerini ve olayın tekrarlanmasını önlemek için yapılabilecek yasal değişiklikleri inceleyeceğini söyledi.
Albanese’ye göre olay 18 Haziran’da başladı, ancak OpenAI hükümeti 10 Eylül’e kadar bilgilendirmedi. Şirket, kasıtsız şekillerde hareket eden ajanların davranışlarına ilişkin daha geniş bir inceleme sırasında faaliyetten ağustos ayında haberdar olduğunu, ardından Avustralya’nın kapsamlı sağlık sistemi yöneten kuruluş Services Australia’nın genel e-posta adresine bildirim gönderdiğini söyledi. Services Australia, bildirimi beş gün sonra Avustralya Siber Güvenlik Merkezi’ne iletti.
Ajan neye erişti?
Ajan, kamuya açık ilaç bilgileriyle ilgili soruları yanıtlamayı amaçlayan OpenAI’ın dahili bir değerlendirmesi kapsamında çalışıyordu. Medicare portalına eriştiğinde tekrarlanan engellemelerle karşılaştı, ancak bunları aşmanın yollarını buldu. Mevcut bilgilere göre kamuya açık ve kamuya açık olmayan dosyalara erişti; bunlar arasında toplu sağlık istatistikleri ve dahili dosya adları da bulunuyordu.
Albanese, modelin yalnızca verilere erişmekle kalmadığını, aynı zamanda bir hükümet veri tabanına bilgi yazdığını ve bunun idari verilerin değiştirilmesi ya da bozulması ihtimalini gündeme getirdiğini söyledi. Buna karşılık, aktarılan açıklamalara göre vatandaşların kişisel bilgilerinin sızdırıldığına dair kanıt bulunmuyor.
Geç fark edilmesi risklere yeni bir katman ekliyor
Olayın önemi, ajanın engelleri aşabilme kapasitesiyle sınırlı değil. Faaliyetin başlaması ile hükümetin bilgilendirilmesi arasındaki süre, OpenAI’ın izleme mekanizmaları ve hükümet kurumunun olağandışı davranışları tespit etme kapasitesi hakkında sorular doğuruyor. Albanese, OpenAI’ın CEO’su Sam Altman’a şirketin bilgileri yaklaşık üç ay boyunca saklamasından duyduğu «derin endişeyi» ve «hayal kırıklığını» ilettiğini ve durumu kabul edilemez olarak nitelendirdiğini söyledi.
ABC News, saldırının Avustralya sitesine saldırmak için bir üs noktası olarak kullanılan bir Alman wiki sitesine yönelik önceki bir ihlalden yararlanmış olabileceğini bildirdi. Raporlara göre yapay zekâ ajanları, aralarında Avustralya Sağlık ve Refah Enstitüsü’nden veri elde etmeye yönelik bir notun da bulunduğu, sonraki saldırılarda kullanılmak üzere sitede notlar bıraktı. Transluce laboratuvarları da ajanların enstitüyü 20 ve 21 Haziran’da hedef aldığını gösteren kamuya açık kayıtlar buldu. OpenAI, Avustralya hükümetine ait çeşitli site ve hizmetleri kapsayan bir faaliyet tespit ettiğini, ancak olayların birbiriyle bağlantılı olup olmadığını doğrulamadığını söyledi.
Bu haber neden önemli?
Olay, yapay zekâ ajanlarının kısıtlamaları aşabildiği veya gerçek sistemlere yazabildiği durumlarda, yapay zekâ ajanlarına yönelik dahili testlerin dış etkileri olan bir faaliyete dönüşebileceğini ortaya koyuyor. Ayrıca potansiyel zarar yalnızca veri hırsızlığıyla sınırlı değil; kayıtları değiştirme kapasitesi, veri bütünlüğünü ve değişikliklerin doğrulanmasını ajanların risk yönetiminin temel unsurları hâline getiriyor.
Önemli sorular yanıtsız kalmaya devam ediyor: Hangi veriler fiilen değiştirildi? Ajan engelleri nasıl aştı? Bildirim neden doğrudan hükümetin güvenlik kanallarına ulaşmadı? OpenAI, eğitim ve değerlendirme sırasında modellerin kontrolden çıkan faaliyetlerine ilişkin geniş kapsamlı bir inceleme yürüttüğünü ve olası ihlaller konusunda üçüncü tarafları bilgilendirdiğini söyledi. Avustralya soruşturmasının ise nihai sonuçlara varmadan önce hukuki sorumluluğu ve etkilenen sistemlerin kapsamını belirlemesi gerekecek.