La herramienta de desarrollo e inteligencia artificial local Junie Local, desarrollada por JetBrains, ha registrado una mejora significativa en el rendimiento en dispositivos Mac equipados con procesadores M5 Max; la velocidad de generación de código aumentó a cerca de 70 tokens por segundo en comparación con los 40 tokens de la versión anterior, con la posibilidad de alcanzar ráfagas rápidas de hasta 107 tokens por segundo.
Esta mejora es el resultado de dos cambios principales introducidos en la arquitectura de la herramienta: la adopción del nuevo motor de inferencia Splash y la integración del modelo de redacción DFlash2, lo que ha duplicado la eficiencia general en comparación con la combinación anterior de la tecnología MTP y el motor MLX-VLM.
¿Qué ha cambiado prácticamente en el rendimiento de la herramienta?
JetBrains reemplazó el motor MLX-VLM anterior por el motor Splash, desarrollado por Inco AI y optimizado específicamente para los modelos Qwen. Este motor permite verificar ocho tokens redactados simultáneamente en cada paso de decodificación, mientras que el costo de atención a través del contexto se reduce notablemente para garantizar que la velocidad de decodificación no disminuya a medida que crece el tamaño del contexto. Además, se han integrado optimizaciones de operaciones int8 personalizadas para los chips M5 dentro del nuevo motor.
En cuanto al modelo de redacción, la herramienta utilizó el modelo DFlash2, diseñado para el modelo Qwen 3.8-27B. Para evitar el problema de sobrepensamiento que ralentiza la generación, la empresa adoptó la versión Qwen3.8-3.6-27B-blend, entrenada utilizando la plataforma SpecForge en rutas de programación y códigos reales, lo que aumentó la tasa de aceptación y la velocidad del agente de programación.
Disponibilidad y requisitos técnicos
- Velocidad y generación: La velocidad de generación saltó de ~40 a ~70 tokens por segundo, y la fase de prellenado (prefill) mejoró hasta alcanzar los 1200 tokens por segundo frente a los 850 anteriores.
- Consumo de memoria: La herramienta requiere unos 24 GB de memoria de acceso aleatorio (RAM) al manejar un contexto de 100 mil tokens.
- Dispositivos compatibles: Los usuarios ya pueden ejecutar la herramienta en computadoras Mac equipadas con procesadores M4 o posteriores, siempre que cuenten con al menos 64 GB de memoria RAM, observando que la fase de prellenado es aproximadamente cuatro veces más lenta en los chips M4 en comparación con los M5.
Los usuarios pueden actualizar la herramienta a través del comando de actualización directa en la interfaz de línea de comandos de Junie, o mediante la instalación completa utilizando el script personalizado que proporciona la empresa, además de la disponibilidad de los modelos DFlash2 para su descarga a través de la plataforma HuggingFace.