Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.
JetBrains hat das offene Modell Mellum2.1 unter der Apache-2.0-Lizenz veröffentlicht. Es konzentriert sich auf den lokalen Betrieb von Programmieragenten und Subagenten oder auf der eigenen Infrastruktur des Nutzers. Die Version basiert auf Training durch bestärkendes Lernen in realen Softwareumgebungen und bietet deutliche Verbesserungen beim Umgang mit Code-Repositories sowie bei der Inferenzgeschwindigkeit.
Ein Artikel der CNCF vertritt die Ansicht, dass der Betrieb einer unternehmensweiten KI-Infrastruktur nicht in der Bereitstellung eines einzelnen Modells oder Clusters besteht, sondern in der Verwaltung eines gemeinsam genutzten Pools von GPU-Einheiten für mehrere Teams bei gleichzeitiger Abstimmung von Auslastung, Isolation und Kosten. Der Artikel stellt technische Schichten vor, darunter Provisionierung, Zuweisung, Scheduling, Netzwerke, Speicher, Monitoring und Abrechnung.
Perplexity hat die Plattform Portable Computer gestartet, um ihre Agenten lokal auf den Geräten der Nutzer auszuführen – zunächst auf Nvidia DGX Spark sowie Linux-Computern mit RTX-Grafikkarten und mindestens 24 GB Speicher. Das System belässt Modelle, Dateien und Arbeitsabläufe standardmäßig auf dem Gerät und kann die Zustimmung des Nutzers einholen, bevor ein bestimmter Schritt an ein leistungsfähigeres Cloud-Modell eskaliert wird.
CohereLabs hat das North-Micro-Vision-Instruct-Modell vorgestellt, ein Vision-Language-Modell mit offenen Gewichten, 2,4 Milliarden Parametern und Unterstützung für die Verarbeitung von Bildern in ihrer Originalauflösung unter der Apache-2.0-Lizenz. Das Modell richtet sich an Anwendungen zum Verständnis von Dokumenten und Diagrammen, OCR und individueller Feinabstimmung. Zudem umfasst es Community-Unterstützung für MLX-VLM sowie ein AutoModel-Rezept für die Bereitstellung auf NVIDIA-Grafikprozessoren.
Das AX-Ray-Projekt von VIDRAFT stellt eine Methode zur Modellbewertung vor, die über Leistungswerte hinausgeht, nachdem es Mängel identifiziert und reproduziert hatte, die es als Kausal-Leakage in den Modellen Zyphra/Zamba2-1.2B und nvidia/Nemotron-H-8B-Base-8K bezeichnete. Das Framework ordnet diese Fälle als Mängel ein, die eine Bereitstellung verhindern, und unterscheidet sie von Problemen des Servicepfads oder der API.
Liquid AI hat die Modelle LFM2.5-2.6B und LFM2.5-2.6B-Base auf Hugging Face verfügbar gemacht. Sie unterstützen lokal Tool-Aufrufe und mehrstufige Workflows. Das Modell zielt auf den Betrieb schneller Agenten auf Computern und Smartphones ab und benötigt weniger als 2,5 Gigabyte Speicher.