Nvidia hat am Mittwoch während der GTC-Konferenz in Berlin ein neues Paket namens „Agent Knowledge Foundation“ als Teil des Agent Toolkits vorgestellt. Ziel ist es, KI-Agenten im Unternehmenssektor mit dem fehlenden Datenkontext auszustatten und ihre Entscheidungsfähigkeit zu verbessern.
Komponenten des neuen Pakets und Retrieval-Technologien
Das neue Paket umfasst eine Reihe von Open-Source-Komponenten, darunter die „Nemotron Retriever“-Modelle für den Abruf, die neue „Auto-Ontology“-Bibliothek, die „Kumo“-Modellfamilie für strukturierte Daten sowie die Datenverarbeitungsbibliotheken „CUDA-X“. Das Unternehmen erklärte, dass dieses System es ermöglicht, dass Daten an ihren aktuellen Speicherorten verbleiben und den bereits in den Unternehmen geltenden Zugriffs- und Berechtigungsregeln unterliegen.
Adel Al-Hallak, Vice President of Agentic AI Products bei Nvidia, wies darauf hin, dass große Sprachmodelle (LLMs) erhebliche Schwierigkeiten haben, komplexe Tabellen und Dateien ohne klaren strukturellen Kontext zu durchsuchen. Den Tests des Unternehmens zufolge steigerte das Nemotron Retriever-Modell für Ranking und Re-Retrieval die Relevanz der Suchergebnisse in einer Open-Source-OpenSearch-Umgebung um 65 %. Dies reduziert die Anzahl der erforderlichen Suchschritte und hält die Latenzzeit auf einem Minimum.
Der Übergang vom traditionellen RAG zu Ontologien und Tabellenverarbeitung
Das Paket stützt sich auf die Auto-Ontology-Bibliothek, um Wissensgraphen aus Unternehmenstabellen zu erstellen und Rohdaten mit Geschäftskonzepten wie Kunden, Produkten und Bestellungen zu verknüpfen. Gleichzeitig bietet es eine REST-API und einen Model Context Protocol (MCP)-Server für Agentenabfragen. Diese Entwicklung ist eine Investition in das Fachwissen des Start-ups Illumex, das Nvidia im Februar für rund 75 Millionen US-Dollar übernommen hat.
Das Paket integriert zudem die Kumo-Modelle für relationale Daten, die Nvidia im Juni übernommen hat. Diese Modelle zielen darauf ab, traditionelle Pipelines überflüssig zu machen, die für jede Vorhersageaufgabe wie Klassifizierung und Sentiment-Analyse maßgeschneidert sind, und ermöglichen so automatisierte Vorhersagen über formatierte Tabellen hinweg.
Strategische Partnerschaften mit Datenplattformen
Nvidia betont, dass man nicht die Absicht hat, mit großen Datenplattformen wie Snowflake, Databricks oder Palantir zu konkurrieren. Stattdessen setzt das Unternehmen auf die Integration seiner Infrastruktur mit deren Plattformen zur Verwaltung von Zugriffskontrolllisten (ACLs) und Sicherheit. Die Supply-Chain-Teams von Nvidia nutzen diese Technologien über die Plattform Palantir Foundry, während Databricks das Kumo-Modell zur Anomalieerkennung mit der Genie Ontology-Kontextebene verbindet und Snowflake die Ausführung von Kumo-Modellen in seinen eigenen Notebooks ermöglicht.
Warum diese Nachricht wichtig ist
Diese Einführung stellt einen praktischen Schritt dar, um die aktuellen Einschränkungen von Enterprise-KI-Agenten zu überwinden, die häufig darunter leiden, den vernetzten Kontext verteilter Unternehmensdaten nicht zu verstehen. Durch die Kombination von Open-Source-Modellen mit Ontologieschichten gibt Nvidia Entwicklern flexible Werkzeuge an die Hand, um die Genauigkeit von Agenten zu verbessern, ohne Unternehmen dazu zu zwingen, ihre sensiblen Daten zu verschieben oder vollständig umzustrukturieren.