Инструмент локальной разработки и искусственного интеллекта Junie Local, разрабатываемый компанией JetBrains, продемонстрировал значительное улучшение производительности на компьютерах Mac, оснащенных процессорами M5 Max; скорость генерации программного кода выросла примерно до 70 токенов в секунду по сравнению с 40 токенами в предыдущей версии, с возможностью достижения пиковых значений до 107 токенов в секунду.
Это улучшение стало результатом двух ключевых изменений в архитектуре инструмента: внедрения нового движка вывода Splash и интеграции модели составления DFlash2, что удвоило общую эффективность по сравнению с предыдущей комбинацией технологии MTP и движка MLX-VLM.
Что изменилось в производительности инструмента на практике?
JetBrains заменила предыдущий движок MLX-VLM на движок Splash, разработанный Inco AI и специально оптимизированный для моделей Qwen. Этот движок позволяет проверять восемь составленных токенов одновременно на каждом этапе декодирования, при этом стоимость внимания (attention) по контексту заметно снижается, что гарантирует отсутствие замедления декодирования при увеличении объема контекста. Также в новый движок были интегрированы оптимизации операций int8, предназначенные для чипов M5.
Что касается модели составления, инструмент использует модель DFlash2, адаптированную для Qwen 3.8-27B. Чтобы избежать проблемы избыточного мышления, замедляющего генерацию, компания использовала версию Qwen3.8-3.6-27B-blend, обученную с помощью платформы SpecForge на реальных программных путях и коде, что повысило коэффициент принятия и скорость работы программного агента.
Доступность и технические требования
- Скорость и генерация: Скорость генерации выросла с ~40 до ~70 токенов в секунду, а этап предварительной подготовки (prefill) улучшился до 1200 токенов в секунду против 850 ранее.
- Потребление памяти: Инструмент требует около 24 ГБ оперативной памяти (RAM) при работе с контекстом в 100 тысяч токенов.
- Поддерживаемые устройства: Пользователи могут запускать инструмент на компьютерах Mac с процессорами M4 или новее при условии наличия не менее 64 ГБ оперативной памяти, при этом стоит отметить, что этап предварительной подготовки на чипах M4 примерно в четыре раза медленнее, чем на M5.
Пользователи могут обновить инструмент с помощью команды прямого обновления в интерфейсе командной строки Junie или выполнить полную установку с использованием специального скрипта, предоставляемого компанией. Кроме того, модели DFlash2 доступны для загрузки через платформу HuggingFace.