Pluto Security araştırmacıları, Hugging Face platformundaki yapay zeka model depolarını hedef alan ve yedi farklı hesaba dağılmış 31 zararlı deponun tespit edildiği kötü amaçlı yazılım kampanyasının aktif olarak geri döndüğünü gözlemledi. Bu kampanya, Xinference ve GPUStack gibi kendi sunucusunda barındırılan çıkarım sunucularını çalıştıran grafik işlemci (GPU) sunucularını yasadışı kripto para madenciliği amacıyla ele geçirmeyi hedefliyor.
Saldırı Mekanizması ve Tarama Engellerini Aşma
Kampanya, zehirlenmiş ağırlıklar (Poisoned Weights) gibi karmaşık tekniklere dayanmak yerine, Hugging Face platformundaki, modellerin yüklendiklerinde kendi özel kodlarını çalıştırmasına izin veren trust_remote_code seçeneğini kötüye kullanıyor. Bu seçenek etkinleştirildiğinde, kötü amaçlı kod, saldırganlara enfekte olmuş sunucuya doğrudan erişim sağlayan bir ters kabuk (Reverse Shell) açma özellikleriyle birlikte, Linux'ta bir sistem süreci olarak gizlenmiş bir kripto para madenciliği programı yükler.
Platforma yüklenen dosyalar güvenlik taramalarından geçmesine rağmen, kullanılan araçlar gömülü kodun davranışını analiz etmek yerine bilinen kötü amaçlı yazılımlara ve güvenli olmayan model formatlarına odaklanmaktadır; bu durum zararlı modellerden birinin taramayı atlamasına ve 28.000'den fazla indirme sayısına ulaşmasına olanak tanımıştır.
Yapay Zeka Kodlama Ajanlarının Hedef Alınması
İlgili bir gelişmede, Air Security şirketi, GitHub platformunda yapay zeka destekli kodlama ajanlarını kandırmak için özel olarak tasarlanmış solana-starter-kit adında sahte bir deponun varlığını ortaya çıkardı. Bu depo, ajanları, geliştiricinin cihazı üzerinde saldırganlara tam kontrol sağlayan Uzaktan Erişim Aracı'nı (NetSupport RAT) yükleyen kötü amaçlı bir komut çalıştırmaya yönlendirir.
Bu Haber Neden Önemli?
Bu olaylar, yapay zeka tedarik zincirindeki büyüyen bir güvenlik açığına dikkat çekmektedir. Geliştiricilerin kullanıma hazır modellere ve otomatik kodlama ajanlarına olan bağımlılığı arttıkça, açık kaynaklı kaynak koduna duyulan güven kritik bir zayıf nokta haline gelmiştir. Saldırganların yazılımlarını kaldırıldıktan günler sonra yeniden yayınlayabilme yeteneği, platformların dinamik kod içeriğini denetlerken karşılaştığı büyük zorluklara işaret etmekte ve kuruluşların üretim ortamlarında çalıştırmadan önce model kodlarını titizlikle incelemesini zorunlu kılmaktadır.