Nvidia, özellikle sürekli çalışan akıllı ajanları (Autonomous Agents) ve uç bilişim (Edge Computing) teknolojilerini, ister şirket veri merkezlerinde ister doğrudan yapay zeka destekli kişisel bilgisayarlarda çalıştırmak üzere tasarlanmış yeni bir açık ağırlıklı yapay zeka modeli (Open-weight models) serisini tanıttı.
Super VL modeli: Veri merkezleri ve kurumlar için gelişmiş yetenekler
Bu lansmanın ön saflarında, 120 milyar parametre içeren ve kurumsal ajanların gereksinimlerini karşılamak üzere tasarlanmış devasa bir model olan Nemotron 3.5 Super VL yer alıyor. Önceki Nemotron 3 Ultra modeline kıyasla daha az parametre içermesine rağmen Nvidia, modelin talimatları takip etme ve yazılım araçlarını çağırma görevlerinde benzer bir doğruluk sunduğunu vurguluyor.
Şirket, Super VL'nin belirli işlevsel görevler için eğitildiğinde (Post-trained), Anthropic ve OpenAI'ın önde gelen rakip modellerinden daha hızlı görev tamamlama kapasitesine sahip olduğunu iddia ediyor. Bu görevler arasında belgelerden veri çıkarma, finansal muhasebe, bilimsel deneyler, tıbbi sigorta taleplerinin uzlaştırılması ve güvenlik saldırılarının engellenmesi yer alıyor. EY, Salesforce, Crowdstrike, Perplexity, Ramp ve Skydance gibi büyük kurumlar modeli halihazırda kullanmaya başladı.
Bolt modelleri: Ajanları bulut olmadan kişisel bilgisayarlara taşımak
Diğer tarafta şirket, Microsoft ve Dell gibi üretim ortakları aracılığıyla piyasaya sürülen Nvidia RTX Spark ve DGX Spark yongalarıyla donatılmış yapay zeka bilgisayarlarında ve iş istasyonlarında yerel olarak çalışmak üzere tasarlanmış Bolt serisinin iki hafif sürümünü piyasaya sürdü:
- Nemotron 3.5 Bolt 74B-A9B 24GB: Yerel olarak karmaşık görevler için tasarlanmış 74 milyar parametreli bir model; işlem hızı ile çok adımlı düşünme, web'de gezinme ve araç çağırma yetenekleri arasında denge kurar.
- Bolt E4B: Temel olarak konuşma ajanlarını (Conversational Agents) çalıştırmaya odaklanan daha küçük boyutlu bir model.
Bu dönüşüm pratikte ne anlama geliyor?
Bu hamle, Nvidia'nın iki ana yola olan bahsini yansıtıyor: Birincisi, kurumların kapalı bulut hizmetlerine tamamen bağımlı kalmadan kendi altyapıları üzerinde açık modellerini eğitme ve özelleştirme konusundaki artan isteği; ikincisi ise bireysel kullanıcıların gizlilik endişelerini gidermek. Günlük görevleri yerine getiren akıllı bir ajanı, kullanıcının kişisel verilerini, finansal veya sağlık kayıtlarını harici bulut sunucularına göndermeden yerel olarak çalıştırma yeteneği, şirketin donanım ve uç yonga satışlarını teşvik etmeyi amaçladığı temel bir rekabet avantajını temsil ediyor.
Nvidia, Super VL ve Bolt 74B-A9B modellerinin şu anda kullanıma sunulduğunu, daha hafif olan Bolt E4B modelinin ise ayın ilerleyen günlerinde kullanıma sunulacağını açıkladı.