Junie Local, der KI-basierte Programmierassistent von JetBrains, ist seit dem ersten Tag auf der NVIDIA RTX Spark-Plattform verfügbar. Gleichzeitig wurde die Windows-Unterstützung für RTX-Karten mit mindestens 24 Gigabyte Videospeicher in den stabilen Status überführt. Dadurch kann der Agent lokal ausgeführt werden, um Code zu lesen, Dateien zu ändern und Tests auszuführen, ohne dass der Code das Gerät verlässt.
Die RTX Spark setzt auf eine Grafikeinheit mit Blackwell-Architektur sowie einen Grace-Prozessor, um größere lokale Modelle auf dünnen Laptops und kleinen Desktop-Geräten auszuführen. Nach ersten Tests von JetBrains auf der Plattform erreichte Junie Local eine Generierungsgeschwindigkeit von 55 Tokens pro Sekunde. Gleichzeitig wird weiter an zusätzlichen Verbesserungen der Inferenz gearbeitet.
Was ändert sich praktisch?
Junie Local passt die Größe des Kontextfensters automatisch an den verfügbaren Speicher der Grafikeinheit an. Je mehr Speicher vorhanden ist, desto mehr Code, Tool-Ausgaben und Gesprächsverlauf kann der Agent während der Aufgabe behalten. Außerdem nutzt er die Tensor Cores von Blackwell, um FP8-Berechnungen effizient auszuführen, und setzt spekulatives Decoding ein, bei dem mehrere Tokens vorab generiert und anschließend gemeinsam überprüft werden.
Nach Angaben von JetBrains fallen bei der lokalen Nutzung keine Gebühren für Tokens oder Nutzungskontingente an. Außerdem sind weder ein Abonnement noch eine Kontoregistrierung oder eine Zahlungskarte erforderlich. Die Leistung und die Fähigkeit, einen langen Kontext zu behalten, bleiben jedoch an den verfügbaren Hardwarespeicher gebunden.
Windows-Unterstützung und Voraussetzungen
Bei seiner Veröffentlichung im August erforderte Junie Local einen Mac-Computer mit einem M5-Chip und 64 Gigabyte Speicher. Im September startete JetBrains eine experimentelle Unterstützung für NVIDIA-RTX-Karten mit 24 Gigabyte VRAM, bevor nun die Stabilität dieser Unterstützung bekannt gegeben wurde.
Die Software läuft derzeit auf NVIDIA-RTX-Spark-Geräten mit Windows on Arm sowie auf Windows-x64-Computern mit RTX-Karten auf Basis der Ampere-Architektur oder neuer und mindestens 24 Gigabyte Videospeicher, etwa der RTX 3090, RTX 4090 und RTX 5090 mit 32 Gigabyte. Für die Ausführung sind außerdem ein NVIDIA-Treiber ab Version 581 und etwa 20 Gigabyte freier Speicherplatz erforderlich.
Modelle und Nutzung
Das Installationsprogramm erstellt die Gerätekonfiguration automatisch neu, überprüft die Grafikeinheit und den Treiber und installiert anschließend die optimierte Inferenz-Engine, das Modell und die Junie-Integration. Nutzer können zwischen Qwen3.6-27B und Qwen3.8-3.6-27B-blend wählen. JetBrains zufolge vereint dieses kombinierte Modell einen großen Teil der Programmierfähigkeiten von Qwen3.8 mit einer kürzeren Inferenz als Qwen3.6.
Für den Start der Installation unter Windows stellt JetBrains einen Befehl über PowerShell bereit. Nach dem Start von Junie kann mit dem Befehl /model das Modell ausgewählt werden. Anschließend lädt die Software die erforderlichen Komponenten herunter, startet die lokale Engine und wechselt die Sitzung zu ihr.
Grenzen und nächste Schritte
Die lokale Unterstützung bedeutet nicht, dass alle Karten oder Modelle dieselbe Erfahrung bieten. Kontextgröße und Generierungsgeschwindigkeit hängen vom Speicher und von der Hardware ab. Auch die Angabe von 55 Tokens pro Sekunde stellt eine erste Ausgangsbasis und keinen endgültigen Leistungsmaßstab dar. JetBrains zufolge arbeitet das Unternehmen an der Unterstützung weiterer Modelle, der Verbesserung der Programmierleistung und der Verringerung des Zeit- und Speicherbedarfs für die Erledigung von Aufgaben. Darüber hinaus werden effizientere Modellformate untersucht und das spekulative Decoding auf der RTX Spark verbessert.