L'outil de développement et d'intelligence artificielle locale Junie Local, développé par JetBrains, a enregistré une amélioration significative des performances sur les appareils Mac équipés de processeurs M5 Max ; la vitesse de génération de code est passée à environ 70 jetons par seconde, contre environ 40 jetons dans la version précédente, avec la possibilité d'atteindre des pics rapides allant jusqu'à 107 jetons par seconde.
Cette amélioration résulte de deux changements majeurs apportés à l'architecture de l'outil : l'adoption du nouveau moteur d'inférence Splash et l'intégration du modèle de brouillon DFlash2, ce qui a doublé l'efficacité globale par rapport à l'ancienne combinaison de la technologie MTP et du moteur MLX-VLM.
Qu'est-ce qui a concrètement changé dans les performances de l'outil ?
JetBrains a remplacé l'ancien moteur MLX-VLM par le moteur Splash, développé par Inco AI et spécifiquement optimisé pour les modèles Qwen. Ce moteur permet de vérifier huit jetons générés simultanément à chaque étape de décodage, tandis que le coût de l'attention sur le contexte diminue de manière significative pour garantir que la vitesse de décodage ne ralentit pas avec l'augmentation de la taille du contexte. Des optimisations des opérations int8 dédiées aux puces M5 ont également été intégrées au nouveau moteur.
Concernant le modèle de brouillon, l'outil a utilisé le modèle DFlash2 dédié au modèle Qwen 3.8-27B. Pour éviter le problème de réflexion excessive qui ralentit la génération, l'entreprise s'est appuyée sur une version Qwen3.8-3.6-27B-blend entraînée via la plateforme SpecForge sur des chemins de programmation et du code réels, ce qui a augmenté le taux d'acceptation et la vitesse de l'agent de programmation.
Disponibilité et exigences techniques
- Vitesse et génération : La vitesse de génération est passée d'environ 40 à environ 70 jetons par seconde, et la phase de pré-remplissage (prefill) s'est améliorée pour atteindre 1200 jetons par seconde contre 850 précédemment.
- Consommation de mémoire : L'outil nécessite environ 24 Go de mémoire vive (RAM) lors du traitement d'un contexte de 100 000 jetons.
- Appareils pris en charge : Les utilisateurs peuvent désormais exécuter l'outil sur des ordinateurs Mac équipés de processeurs M4 ou plus récents, à condition de disposer d'au moins 64 Go de mémoire vive, étant noté que la phase de pré-remplissage est environ quatre fois plus lente sur les puces M4 par rapport aux M5.
Les utilisateurs peuvent mettre à jour l'outil via la commande de mise à jour directe dans l'interface de ligne de commande de Junie, ou procéder à une installation complète à l'aide du script dédié fourni par l'entreprise, en plus de la disponibilité des modèles DFlash2 au téléchargement via la plateforme HuggingFace.