Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.
Entscheidungsmodelle (Decision Models) erleben ein beschleunigtes Wachstum als schnellere und kostengünstigere Alternative zu großen Sprachmodellen, wobei sich ein neuer Trend zur Anpassung dieser Modelle mithilfe privater Nutzerdaten abzeichnet.
Subquadratic hat das Entscheidungsmodell SubQ Snap vorgestellt, das laut Unternehmenstests bis zu 384.000 Tokens pro Anfrage verarbeiten kann und Jev in den meisten veröffentlichten Tests übertrifft. Nach Angaben des Unternehmens soll das Modell die Abhängigkeit von KI-Agenten von Large Language Models bei Auswahl- und Routing-Aufgaben verringern.
TypeSafe AI hat das Jev-Modell vorgestellt, ein auf einem Transformer basierendes Modell, das keine Texte erzeugt, sondern kalibrierte Wahrscheinlichkeiten und Entscheidungen ausgibt. Ziel ist es, für bestimmte Software- und Automatisierungsaufgaben eine schnellere und kostengünstigere Alternative bereitzustellen. Entwickler berichten von deutlichen Geschwindigkeits- und Kostenvorteilen; zugleich bestehen weiterhin Fragen zu seiner Architektur und zu den Grenzen der Übertragbarkeit seiner Ergebnisse.