Das chinesische Unternehmen für künstliche Intelligenz Moonshot AI hat die Einführung des neuesten Mitglieds seiner Modellfamilie, des Modells Kimi K3.1 Pro, sowie einer schnelleren Version namens Highspeed angekündigt. Der Zugriff auf das neue Modell und seine schnelle Version wurde über die Kimi-Produkte und die API des Unternehmens ermöglicht, wobei Pläne bestehen, die Modellgewichte offiziell bis zum 4. November zu veröffentlichen.
Was bietet das Modell Kimi K3.1 Pro in der Praxis?
Das neue Modell wurde als Weiterentwicklung des Kimi K3-Modells konzipiert, wobei die zusätzliche Trainingsphase eine höhere Rechenleistung erforderte. Die Version ist mit einem Kontextfenster von bis zu einer Million Token ausgestattet, was es ermöglicht, extrem lange Textinhalte auf einmal zu verarbeiten. Laut Unternehmensangaben arbeitet die schnelle Version (Highspeed) zwei- bis dreimal so schnell wie das Standardmodell.
Die neuen Fähigkeiten des Modells konzentrieren sich hauptsächlich auf die Bereiche Softwareentwicklung und 3D-Design. Das Unternehmen erklärt, dass K3.1 Pro nicht nur Fehler in bestehendem Code korrigiert, sondern auch die Unterstützung von Spieleentwicklungsprojekten mit bekannten Engines wie Unity, Unreal Engine und Godot umfasst. Es kann zudem 3D-Modelle basierend auf Texten, Skizzen oder Referenzbildern generieren sowie Code für Blender-Software und CAD-Design schreiben, um die gewünschten Anpassungen vorzunehmen.
Leistung und Finanzforschung
In Leistungstests erreichte K3.1 Pro eine Erfolgsquote von 65,7 % bei der Terminal-Bench 4.0-Bewertung, die Programmieraufgaben über die Befehlszeilenschnittstelle misst, und übertraf damit laut den vom Unternehmen veröffentlichten Ergebnissen einige konkurrierende Modelle.
Im Bereich der Finanzforschung hat das Unternehmen die Fähigkeiten des Modells bei der Überprüfung von Finanzdokumenten, dem Vergleich von Daten aus mehreren Quellen und der Durchführung mehrstufiger Berechnungen verbessert. Die internen Validierungstests des Unternehmens zeigten einen Rückgang der Halluzinationsrate oder fehlerhafter Informationen, die auf Behauptungen basieren, von 23,4 % in der vorherigen Version auf 8,3 %, wobei betont wurde, dass dieser Prozentsatz nicht unbedingt die allgemeine tägliche Fehlerrate widerspiegelt.
Was bedeutet das für Entwickler?
Das Unternehmen beabsichtigt, die Modellgewichte zu veröffentlichen, um Entwicklern dabei zu helfen, diese auf ihrer eigenen Infrastruktur auszuführen und anzupassen. Vor der Veröffentlichung hat das Unternehmen Inhalte mit Bezug zur Cybersicherheit aus den Trainingsdaten und den Umgebungen für bestärkendes Lernen entfernt, um die Möglichkeiten zur Ausnutzung von Schwachstellen oder für Cyberangriffe einzuschränken.