NVIDIA ve çok sayıda teknoloji şirketi ile açık kaynak kuruluşu, yapay zekânın kullanımının yaygınlaşmasıyla savunucuların yazılımları ve akıllı ajanları korumasına yardımcı olacak açık teknolojiler ve araçlar geliştirmek ve paylaşmak amacıyla Open Secure AI Alliance’ın kurulduğunu duyurdu. İttifak, Linux Foundation topluluğunun Akrites girişimi ve OpenSSF çalışmaları da dâhil olmak üzere çeşitli girişimlerine dayanıyor ve açık teknolojiler kullanılarak güvenlik açıklarının ele alınmasına ve açıklanmasına odaklanıyor.
İttifakın kurucu ortakları arasında bulut bilişim, siber güvenlik, kurumsal yazılımlar ve yapay zekâ araştırmaları alanlarından NVIDIA, Adobe, Akamai, Amazon, Atlassian, Cisco, Cloudflare, CrowdStrike, Dell Technologies, Docker, GitHub ve Google? yer alıyor.
Açıklık bir savunma aracı olarak
İttifaka göre siber savunma, açık modeller ve açık işletim araçlarına ihtiyaç duyuyor; çünkü bunlar savunucuların sistemleri incelemesine, uyarlamasına ve kendi altyapılarında çalıştırmasına olanak tanırken verileri koruyor ve tek bir sağlayıcıya bağımlılığı azaltıyor. Yazıya göre bu araçlar, özelleştirilebilir ve yerel ortamlara uygun denetimler sağlayarak gelişmiş kapalı modelleri tamamlayabilir.
NVIDIA, her güçlü teknoloji gibi açık modellerin de koruma mekanizmalarını zayıflatmak veya siber saldırılarda yeniden kullanmak suretiyle kötüye kullanılabileceğini kabul ediyor. Ancak yazı, bu risklerin açık sistemlerle sınırlı olmadığını ve model ağırlıklarını kapalı tutmanın, kararlı saldırganların gelişmiş yeteneklere erişmeye veya bunlardan yararlanmaya çalışmasını engellemediğini savunuyor.
Yazı, Hugging Face’in yakın zamanda yaşadığı bir güvenlik olayına atıfta bulunarak şirketin ihlali analiz etmek ve kontrol altına almak için altyapısında açık ağırlıklı GLM 5.2 modelini kullanarak 17 binden fazla işlemi analiz ettiğini belirtiyor. Buna göre kapalı yapay zekâ araçları, saldırganlarla savunucuları ayırt edemedikleri için adli analizi engellemişti. NVIDIA bu olayı, savunucuların incelenebilen, değiştirilebilen ve kurum içinde çalıştırılabilen gelişmiş sistemlere sahip olmasının önemini göstermek için kullanıyor.
NVIDIA’nın katkıları ve koruma bileşenleri
NVIDIA, ittifaka açık modeller, model ağırlıkları, veriler ve ajan işletim çerçeveleri üzerine yeni araştırmalarla katkıda bulunduğunu açıkladı. Şirket ayrıca NVIDIA Labs Object-Oriented Agent (NOOA) projesini GitHub’da açık kaynak olarak kullanıma sundu. Bu, ajan işletim çerçevelerinin modellerle daha iyi bütünleşmesine yardımcı olmayı amaçlayan ve ajan davranışlarının test edilmesini, izlenmesini, denetlenmesini ve yönetilmesini kolaylaştıran bir araştırma çerçevesi.
Katılımcılar kimlik ve izolasyon, güvenli model biçimleri, çoklu model taraması ve güvenli programlama iş akışlarını kapsayan açık bir ajan savunma ekosistemi oluşturmak için çalışıyor. Yazının verdiği örnekler arasında HPE’nin ajanların ve hizmetlerin kimliklerini kriptografik olarak doğrulamak için SPIFFE/SPIRE’a yaptığı katkı ile Hugging Face’in, modellerin ağırlıklarını uzaktan kod yürütmeye karşı garantilerle depolamaya yönelik bir biçim olan Safetensors’ı PyTorch Foundation’a sunması yer alıyor.
Ortak altyapı çağrısı
NVIDIA hükümetleri, şirketleri ve araştırmacıları veri kümeleri, değerlendirme çerçeveleri, saldırı simülatörleri ve saldırı testi araçları gibi yapay zekâ destekli savunma için açık altyapıya yatırım yapmaya çağırdı. Ayrıca politika yapıcıları ve düzenleyici kurumları açık modelleri, işletim çerçevelerini ve güvenlik araçlarını savunma varlıkları olarak ele almaya teşvik etti. Şirket, açık yapay zekâ sistemlerine yönelik kapsamlı kısıtlamaların savunma kapasitesini zayıflatabileceği ve bağımlılığın sınırlı sayıdaki kapalı sağlayıcıda yoğunlaşmasını artırabileceği uyarısında bulundu.