Anthropic’teki Frontier Red Team ekibinin yürüttüğü araştırmaya göre, küçük yapay zekâ modelleri birkaç ay içinde kendilerini kopyalayarak ticari Nesnelerin İnterneti cihazları arasında yayılabilecek hâle gelebilir. Bu senaryo, geleneksel kötü amaçlı yazılımlardan farklıdır; çünkü modelin kendisi ele geçirilen cihazda çalışır ve böylece saldırıyı durdurmak için kapatılabilecek merkezi kontrol noktası ortadan kalkar.
Araştırmacılar, cihaz başına yaklaşık 55 dolar fiyatındaki Android işletim sistemiyle çalışan 15 televizyon alıcısını test etti. 26 milyar parametre içeren açık ağırlıklı bir model, bu cihazlar arasında dağıtılmış biçimde saniyede 0,39 token hızında çalışmayı başardı. Deney, daha önceki araştırmaların ele aldığı güvenlik açıklarından yararlanmayı incelemek yerine, modellerin alışılmadık donanımlarda çıkarım çalıştırma becerisine odaklandı.
Test sonuçları
9 milyar parametre içeren bir model, ekibin test ettiği dokuz donanım türünün sekizinde çıkarım çalıştırmayı başardı. Ardından araştırmacılar, saldırı adımını kasıtlı olarak basitleştirerek, simüle edilmiş sekiz Android cihazdan oluşan kapalı bir ağda tam kopyalama döngüsünü test etti.
Test edilen açık ağırlıklı modeller arasında GLM-5.2, döngüyü tamamlayarak beş denemenin dördünde sekiz cihaza ulaştı. Anthropic bu sonucu gerçek dünyada beklenen başarının üst sınırı olarak nitelendiriyor; fiilî yayılma oranının göstergesi olarak değil.
Pratikte ne değişebilir?
30 milyar veya daha az parametre içeren modeller hâlihazırda birçok tekil adımı gerçekleştirebiliyor, ancak bunları tek bir zincirde birleştirirken hatalar yapıyor. Tarihsel gelişim hızına dayanarak Anthropic, bu modellerin 2026 sonuna kadar GLM-5.2 seviyesine ulaşmasını bekliyor; bu da kısa süre sonra «ağırlıklara dayalı küçük çoğaltıcıları» mümkün kılabilir.
Şirketin yaptığı karşılaştırmaya göre, iki milyondan fazla cihaza bulaşan Kimwolf büyüklüğünde bir ağ, her 15 cihaz bir modeli çalıştırırsa yaklaşık 133 bin adet 26 milyar parametreli model kopyasına ev sahipliği yapabilir. Ancak toplam hesaplama kapasitesi yaklaşık 40 adet Nvidia H100 grafik işlem biriminden fazla olmayacak ve her yineleme bir günden uzun sürebilecek; bu da yayılmanın yavaş ve hesaplama açısından maliyetli olacağı anlamına geliyor.
Savunma avantajları ve mevcut sınırlamalar
Belirli cihaz türleri için tasarlanmış geleneksel botnetlerin aksine, yapay zekâ tabanlı bir solucan alışılmadık donanıma uyum sağlayabilir. Ancak büyük modellerin taşınması ve normalde iletişim kurmayan cihazlar arasındaki sürekli trafik, internet servis sağlayıcılarının izleme sistemlerinde açıkça görülebilir. Ayrıca varsayılan parolaların kaldırılması ve üreticilerin güvenlik ayarlarını iyileştirmesi, hedef alınmaya açık cihazların sayısını azaltabilir.
Editoryal sonuç: Deneyler, şu anda açık bir ortamda yayılabilen kötü amaçlı bir çoğaltıcının varlığını kanıtlamıyor; döngü kapalı bir ağda ve basitleştirilmiş bir saldırı adımıyla test edildi. Ancak gelecekteki riskin yalnızca modellerin boyutunun artmasına değil, keşif, çalıştırma ve kopyalama görevlerini bir araya getirme ve öğrendiklerini diğer kopyalara aktarma becerilerine de bağlı olduğunu gösteriyor.