Nvidia hat eine neue Reihe von Open-Weight-Modellen für künstliche Intelligenz vorgestellt, die speziell für den Betrieb von dauerhaft aktiven intelligenten Agenten (Autonomous Agents) und Edge-Computing-Technologien entwickelt wurden – sowohl in Unternehmensrechenzentren als auch direkt auf KI-gestützten PCs.
Super VL-Modell: Fortschrittliche Fähigkeiten für Rechenzentren und Unternehmen
An der Spitze dieser Veröffentlichung steht das Modell Nemotron 3.5 Super VL, ein umfangreiches Modell mit 120 Milliarden Parametern, das für die Anforderungen von Unternehmensagenten konzipiert wurde. Obwohl es weniger Parameter als das vorherige Nemotron 3 Ultra-Modell enthält, betont Nvidia, dass es eine vergleichbare Genauigkeit bei Aufgaben wie dem Befolgen von Anweisungen und dem Aufrufen von Software-Tools bietet.
Das Unternehmen gibt an, dass Super VL Aufgaben schneller erledigen kann als führende Konkurrenzmodelle von Anthropic und OpenAI, wenn es für spezifische funktionale Aufgaben nachgeschult (post-trained) wird. Zu diesen Aufgaben gehören die Datenextraktion aus Dokumenten, Finanzbuchhaltung, wissenschaftliche Experimente, die Abwicklung medizinischer Versicherungsansprüche und die Abwehr von Sicherheitsangriffen. Große Unternehmen wie EY, Salesforce, Crowdstrike, Perplexity, Ramp und Skydance haben bereits mit der Implementierung des Modells begonnen.
Bolt-Modelle: Agenten ohne Cloud auf PCs bringen
Auf der anderen Seite hat das Unternehmen zwei leichtgewichtige Versionen der Bolt-Serie veröffentlicht, die für den lokalen Betrieb auf KI-PCs und Workstations mit Nvidia RTX Spark- und DGX Spark-Chips konzipiert sind, welche über Fertigungspartner wie Microsoft und Dell auf den Markt kommen:
- Nemotron 3.5 Bolt 74B-A9B 24GB: Ein Modell mit 74 Milliarden Parametern, das für komplexe lokale Aufgaben entwickelt wurde; es balanciert zwischen Verarbeitungsgeschwindigkeit und der Fähigkeit zu mehrstufigem Denken, Websurfen und dem Aufrufen von Tools.
- Bolt E4B: Ein kleineres Modell, das sich hauptsächlich auf den Betrieb von konversationsbasierten Agenten (Conversational Agents) konzentriert.
Was bedeutet dieser Wandel in der Praxis?
Dieser Schritt spiegelt Nvidias Fokus auf zwei Hauptpfade wider: Erstens den wachsenden Wunsch von Unternehmen, ihre offenen Modelle auf ihrer eigenen Infrastruktur zu trainieren und anzupassen, ohne vollständig von geschlossenen Cloud-Diensten abhängig zu sein; und zweitens die Adressierung von Datenschutzbedenken bei Privatanwendern. Die Fähigkeit, einen intelligenten Agenten lokal auszuführen, der tägliche Aufgaben erledigt, ohne persönliche Daten, Finanz- oder Gesundheitsaufzeichnungen an externe Cloud-Server zu senden, stellt einen zentralen Wettbewerbsvorteil dar, mit dem das Unternehmen den Verkauf seiner Hardware und Edge-Chips ankurbeln will.
Nvidia erklärte, dass die Modelle Super VL und Bolt 74B-A9B ab sofort verfügbar sind, während das leichtere Modell Bolt E4B später im selben Monat veröffentlicht wird.