Nvidia, Çarşamba günü Berlin'deki GTC konferansında, şirket sektöründeki yapay zeka aracılarının eksik veri bağlamını sağlamak ve karar alma yeteneklerini geliştirmek amacıyla Agent Toolkit'in bir parçası olarak "Agent Knowledge Foundation" adlı yeni bir paketin piyasaya sürüldüğünü duyurdu.
Yeni Paketin Bileşenleri ve Kurtarma Teknolojileri
Yeni paket; Nemotron Retriever kurtarma modellerini, yeni Auto-Ontology kütüphanesini, yapısal verilere ayrılmış Kumo model ailesini ve CUDA-X veri işleme kütüphanelerini içeren bir dizi açık kaynaklı bileşeni bir araya getiriyor. Şirket, bu sistemin verilerin mevcut depolama yerlerinde kalmasına ve şirketlerde halihazırda uygulanan erişim ve yetki kurallarına tabi olmaya devam etmesini sağladığını açıkladı.
Nvidia'nın Yapay Zeka Aracısı Ürünlerinden Sorumlu Başkan Yardımcısı Adel Al-Hallaq, büyük dil modellerinin net bir yapısal bağlam olmaksızın karmaşık tablolar ve dosyalar arasında arama yapmada ciddi zorluklarla karşılaştığını belirtti. Şirket testlerine göre Nemotron Retriever sıralama ve yeniden kurtarma modeli, açık kaynaklı OpenSearch ortamında test edildiğinde arama sonuçlarının ilgililiğini %65 oranında artırarak gereken arama adımı sayısını azalttı ve minimum gecikmeyi (Latency) korudu.
Geleneksel RAG Kurtarmasından Ontolojiye ve Tablo İşlemeye Geçiş
Paket, şirket tablolarından bilgi grafikleri oluşturmak ve ham verileri müşteri, ürün ve sipariş gibi iş kavramlarıyla ilişkilendirmek için Auto-Ontology kütüphanesine güveniyor ve aracı sorguları için bir REST API ile Model Bağlam Protokolü sunucusu (MCP) sağlıyor. Bu geliştirme, Nvidia'nın Şubat ayında yaklaşık 75 milyon dolar karşılığında satın aldığı girişim şirketi Illumex'in deneyimlerine yapılan bir yatırım olarak öne çıkıyor.
Paket ayrıca Nvidia'nın Haziran ayında satın aldığı ilişkisel veri modelleri olan Kumo modellerini de entegre ediyor. Bu modeller, sınıflandırma ve duygu analizi gibi her tahmine dayalı görev için ayrılmış geleneksel hatların ortadan kaldırılmasını amaçlıyor ve biçimlendirilmiş tablolar üzerinden otomatik tahmin yapılmasına olanak tanıyor.
Veri Platformları ile Stratejik Ortaklıklar
Nvidia, Snowflake, Databricks veya Palantir gibi büyük veri platformlarıyla rekabet etme amacında olmadığını, aksine erişim kontrol katmanlarını (ACL) ve güvenliği yönetmek için altyapısının kendi platformlarıyla entegrasyonuna güvendiğini vurguluyor. Nvidia'nın tedarik ekipleri bu teknolojileri Palantir Foundry platformu üzerinden kullanırken, Databricks anormallik tespiti için Kumo modelini Genie Ontology bağlam katmanına bağlıyor ve Snowflake ise Kumo modellerinin kendi not defterleri içinde çalışmasına olanak tanıyor.
Bu Haber Neden Önemli?
Bu lansman, genellikle dağıtılmış şirket verilerinin birbirine bağlı bağlamını anlamada yetersizlik yaşayan kurumsal yapay zeka aracılarının mevcut sınırlamalarını aşmak için pratik bir adım oluşturuyor. Açık kaynaklı modelleri ontoloji katmanlarıyla entegre eden Nvidia, kuruluşları hassas verilerini taşımaya veya tamamen yeniden yapılandırmaya zorlamadan geliştiricilere aracı doğruluğunu artırmak için esnek araçlar sunuyor.