ABD Federal Ticaret Komisyonu (FTC), testler sırasında yapay zekâ modellerinin karıştığı ve web sitelerinin ele geçirilmesi ile hükümet sistemlerine erişim de dahil olmak üzere bir dizi olayın ardından tüketicilerin maruz kalmış olabileceği zararlar nedeniyle OpenAI ve Anthropic hakkında resmî bir soruşturma başlattı.
Axios’un aktardığı bir kaynağa göre komisyon, çarşamba günü iki şirkete son olaylar, iç güvenlik prosedürleri ve tüketicilerin yanıltıldığına işaret edebilecek pazarlama materyalleriyle ilgili 50’den fazla sayfa soru ve talep içeren sivil soruşturma talepleri gönderdi. FTC, Ars Technica’nın taleplerin metinlerini görme isteğine yanıt vermedi; OpenAI ve Anthropic de yorum talebine karşılık vermedi.
Soruşturma neyi inceliyor?
Taleplerin kapsamı yalnızca teknik olarak ne olduğuyla sınırlı kalmıyor; şirketlerin olayları nasıl ele aldığına ve zarar gören tarafları bu olaylar hakkında nasıl bilgilendirdiğine de uzanıyor. Kaynak, komisyonun iki şirketin ajanları tarafından hedef alınan üçüncü tarafları da mahkemeye çağırmayı planladığını söyledi. FTC, topladığı endişe verici kanıtları şirketlerden birine veya her ikisine, güvenli olmayan ürünler piyasaya sürme ya da tüketiciyi koruma yükümlülüklerini ihlal etme iddiasıyla dava açmak için kullanabilir.
Bu adım, OpenAI’nin sohbet robotunun aralarında bir ebeveynin öldürülmesi, çocukların intihar etmesi ve okullarda silahlı saldırıların da bulunduğu çeşitli zararlarla bağlantılı olduğunu ileri süren davalarla karşı karşıya olduğu bir dönemde geldi. Buna ek olarak, bu hafta sekiz ABD eyaleti ChatGPT’yi çocuklara zarar vermek, sanrıları güçlendirmek, tehlikeli davranışları teşvik etmek ve şiddet eylemlerinin planlanmasına yardımcı olmakla suçlayan bir dava açtı.
Sorumluluk, ajanların «özerkliğine» atfedilmiyor
FTC Başkanı Andrew Ferguson, yapay zekâ araçlarının insanlardan bağımsız hareket ettiği şeklindeki tasviri reddediyor. Reuters’a verdiği demeçte Ferguson, denetim kayıtlarının incelenmesinin şimdiye kadar sistemlerin kendilerine verilen talimatları yerine getirdiğini gösterdiğini söyledi; bu, yapay zekâ şirketlerinin sistemlerini zaman zaman insan kontrolünü aşan sistemler olarak tanımlamasına rağmen böyleydi.
Bu nokta hukuki açıdan önem taşıyor; çünkü şirketlerin sorumlu tutulması, ajanı eylemlerinden sorumlu bağımsız bir varlık olarak görmek yerine ürünün davranışına, ürünün piyasaya sunulma biçimine ve açıklama prosedürlerine dayandırılabilir.
Pratikte ne değişiyor?
Ferguson’un liderliğini paylaştığı Trump yönetimine bağlı «süper yapay zekâ» gücü, yapay zekâ şirketlerinden güvenlik olaylarını bunlardan haberdar olur olmaz bildirmelerini isteyen bir talimat yayımladı. Rapora göre OpenAI ve Anthropic, bazı olayları çözümünü duyurmaya hazır hale gelene kadar bildirmeyi erteledi.
Ferguson, ABD’nin mevcut hukuki araçları, FTC’nin veri ihlallerini açıklamayan şirketlere yönelik yetkileri de dahil olmak üzere kullanabileceğini düşünüyor. Ona göre bu standart yapay zekâ geliştiricileri için de geçerli olabilir; böylece ortaya çıkan bir zarar konusunda uyarıda bulunulmasını geciktirmenin her ihlal ve her günü için büyük para cezalarının önü açılabilir.
Ancak soruşturma, FTC’nin henüz para cezası uygulamaya veya dava açmaya karar verdiği anlamına gelmiyor. Olası yaptırımların boyutu ya da veri ihlallerini açıklama kurallarının yapay zekâ ajanlarına özgü olaylara nasıl uygulanacağı da netleşmiş değil. ABD yönetimi inovasyona yatırımlara öncelik vermeyi sürdürürken, düzenleyici kurumlar mevcut yasaların web siteleri ve hükümet sistemleriyle etkileşime giren sistemlerin riskleriyle başa çıkmak için yeterli olup olmadığını belirlemeye çalıştığından, bu sorular önemini koruyor.