ABD siber güvenlik ve istihbarat ajansları, altı Çinli yapay zekâ şirketinin en az 2024’ün sonlarından bu yana gelişmiş Amerikan yapay zekâ modellerinden bilgi çıkarmaya yönelik geniş çaplı operasyonlar yürüttüğünü söyledi. CISA, NSA ve FBI tarafından yayımlanan ortak uyarıya göre operasyonlar, Anthropic, OpenAI, Google ve xAI modellerine yöneltilen milyonlarca istekten üretilen milyarlarca token’ı kapsıyordu.
Uyarıda adı geçen şirketler DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun ve Z.AI. Ajanslar, operasyonların ölçeği ve karmaşıklığının Çin hükümetinin bunlardan haberdar olduğuna işaret ettiğini ve bu yöntemin söz konusu şirketlerin geliştirme stratejisinin temel bir parçasını oluşturabileceğini söylüyor. Yayımlanan materyalde bu şirketlerin yanıtlarına yer verilmedi; BleepingComputer, yorum almak için şirketlerle iletişime geçtiğini belirtti.
Model damıtma saldırıları ne anlama geliyor?
Model damıtma, bir “öğrenci” modelin daha fazla eğitilmiş bir modelin çıktılarını öğrendiği; eğitim maliyetini azaltmayı ve yeni bir sistemin kullanıma sunulmasını hızlandırmayı amaçlayan meşru bir tekniktir. Ancak ABD ajansları, kontrollü araştırma kullanımı ile model bilgisini ve mantığını sahibi şirketin kontrol ettiği ortamın dışına çıkarmak için API’lerden yararlanan damıtma saldırıları olarak tanımladıkları yöntem arasında ayrım yapıyor.
CISA, operasyonlarla ilişkilendirilen şirketlerin istekleri sahte veya ortak hesaplar, API’ler ve bulut hizmetleri ile “aktarma istasyonları” olarak adlandırılan toplayıcılar ve aracılar üzerinden dağıttığını açıklıyor. Bu yollar, coğrafi kısıtlamaları, kullanım sınırlarını ve izleme sistemlerini aşma girişimlerine olanak sağladı. Bazı istemlerde yasaklanmış düşünce zinciri çıkarımlarını elde etme girişimleri de bulunurken otomatik sistemler hizmet sağlayıcılarını değiştirdi ve savunma önlemleri uygulandıktan sonra yanıtların kötüleşip kötüleşmediğini test etti.
Ajanslar ne gözlemledi?
Uyarı, DeepSeek ve Moonshot AI’yi Claude, GPT, Gemini ve Grok’un birden fazla modelini hedef alan en önde gelen aktörler olarak sınıflandırdı. MiniMax’ın Claude, Gemini ve GPT modellerini hedef aldığını, Alibaba ve StepFun’ın ise ürünlerini geliştirmek amacıyla Claude ve GPT’yi hedef almakla suçlandığını söyledi. Z.AI’ye de GPT-5.5 ve Claude Opus 4.8’i hedef alma atfedildi.
Ajanslar, bu yöntemin gelişmiş bir model geliştirmek için gereken süreyi ve maliyetleri azaltabileceğini düşünüyor; çünkü operasyonu yürüten taraf, rakip bir modeli sıfırdan eğitmenin maliyetini üstlenmek yerine hazır bir modelin çıktılarına erişiyor. Mevcut materyalde bu sonuç, bağımsız bir yargı kararı değil, ajanslar tarafından yapılan bir değerlendirme olarak kalıyor.
Bu, model sağlayıcıları açısından ne anlama geliyor?
CISA, NSA ve FBI, yapay zekâ şirketlerine davranışsal ve altyapı düzeyinde tespit yöntemleri geliştirmelerini, damıtma operasyonlarından şüphelenildiğinde yanıtları değiştirmelerini ve kampanyalara ilişkin bilgileri ilgili taraflarla paylaşmalarını tavsiye ediyor. Önerilen göstergeler arasında yeni hesapların oluşturulur oluşturulmaz kullanım sınırına ulaşması, doğal insan etkinliğinde görülen boşluklar olmaksızın kesintisiz faaliyet, ortak hesaplara çok sayıda IP adresinden veya tarayıcı tanımlayıcısından erişim, aynı istemlerin birden fazla sağlayıcı üzerinden tekrarlanması ve erişim yolları arasında koordineli geçiş bulunuyor.
Editoryal değerlendirme: Uyarının önemi yalnızca belirli şirketlere yöneltilen suçlamada değil, modellerin korunmasının artık sunuculara yönelik saldırıları engellemekle sınırlı olmadığını göstermesinde yatıyor. API’ye yetkili erişim, kullanım kalıpları hesaplar, sağlayıcılar ve farklı yollar arasında analiz edilmezse modelin yeteneklerini çıkarmaya yönelik bir kanala dönüşebilir. Buna karşılık, teknik kanıtların tamamına ve şirketlerin yanıtlarına ilişkin ayrıntılar ile meşru damıtma ve saldırgan çıkarma arasındaki pratik sınırlar, mevcut materyalde açık sorular olarak kalıyor.