Bir grup güvenlik araştırmacısı, saldırganların yapay zeka modeli geliştiricilerinin hesapları üzerinde tam kontrole sahip olmasına olanak tanıyan Hugging Face platformunda ciddi bir güvenlik açığını kanıtlamayı başardı. Bu açık, Google, NVIDIA, AMD, Intel ve Amazon Web Services gibi şirketler tarafından büyük teknoloji projelerinde yaygın olarak kullanılan ve oldukça popüler olan bir metinden konuşmaya (Text-to-Speech) modeli olan Kokoro modelinin hesabının ele geçirilmesiyle örneklendirildi.
Ele geçirme işlemi nasıl gerçekleşti?
Alon Hertz liderliğindeki araştırmacılar, platformdaki hesap sahipliğine yönelik katı doğrulama mekanizmalarının eksikliğinden yararlandı. Ekip, Kokoro projesinin bağış dosyasında yer alan internet alan adını (Domain) tescil etti ve ardından bu alan adını Hugging Face üzerindeki geliştirici hesabının şifresini sıfırlamak için kullanarak hesaba tam erişim sağladı.
Bu kullanıcılar için ne anlama geliyor?
Araştırmacılar, asıl tehlikenin sadece hesabın çalınmasında değil, tedarik zinciri saldırıları (Supply-Chain Attacks) gerçekleştirme yeteneğinde yattığını açıkladı. Antivirüs yazılımları tarafından tespit edilebilecek geleneksel kötü amaçlı yazılımlar yerleştirmek yerine, araştırmacılar modelin kendisinin sinirsel "ağırlıklarını" (Weights) değiştirdiler. Bu değişiklik, çalışma kodu ve model altyapısı hiçbir şekilde değişmeden kalırken, modelin girilen metinden farklı ses çıktıları üretmesini sağlayarak saldırıyı geleneksel tarama sistemleri için görünmez kılıyor.
Bu haber neden önemli?
Bu ihlal, açık kaynaklı modeller ekosistemindeki daha geniş bir güven sorununa ışık tutuyor. Hugging Face platformu şu anda model yayıncılarının kimliğini veya hesabın hala orijinal sahibinin kontrolünde olup olmadığını doğrulamıyor. Birçok üretim sistemi modellerin otomatik güncellemelerine dayandığından, ele geçirilmiş bir hesap üzerinden gönderilen herhangi bir kötü amaçlı güncelleme, mevcut güvenlik araçlarında hiçbir şüphe uyandırmadan bu modele güvenen binlerce sisteme doğrudan ulaşacaktır.
Araştırmacılar, Kokoro modelinin sadece belirgin bir örnek olduğunu ve platformdaki herhangi bir hesabın aynı senaryoya açık olabileceğini vurguluyor; saldırganlar, modele kötü amaçlı bir güncelleme göndermeden önce uzun süre bekleyebilir, bu da bu tür saldırıların gerçek çalışma ortamlarında tespit edilmesini son derece zorlaştırır.