JetBrainsが開発するローカルAI開発ツールJunie Localは、M5 Maxプロセッサを搭載したMacデバイスにおいて、パフォーマンスの大幅な向上を記録しました。コード生成速度は、以前のバージョンでの毎秒約40トークンから毎秒約70トークンへと上昇し、バースト時には最大毎秒107トークンに達することが可能となりました。
この改善は、ツールのアーキテクチャに加えられた2つの主要な変更によるものです。それは、新しい推論エンジン「Splash」の採用と、ドラフトモデル「DFlash2」の統合であり、これにより従来のMTP技術とMLX-VLMエンジンの組み合わせと比較して、全体的な効率が倍増しました。
ツールのパフォーマンスは具体的にどう変わったのか？
JetBrainsは、従来のMLX-VLMエンジンを、Inco AIによって開発され、Qwenモデル向けに特別に最適化されたSplashエンジンに置き換えました。このエンジンは、デコードの各ステップで8つのドラフトトークンを一度に検証できるほか、コンテキストの増大に伴うデコード速度の低下を防ぐため、コンテキストアテンションのコストを大幅に削減しています。また、M5チップ向けにカスタマイズされたint8演算の最適化も新しいエンジンに統合されています。
ドラフトモデルに関しては、Qwen 3.8-27Bモデル専用のDFlash2モデルが採用されました。生成を遅延させる「考えすぎ（overthinking）」の問題を回避するため、同社はSpecForgeプラットフォームを使用して実際のプログラミングパスやコードでトレーニングされた「Qwen3.8-3.6-27B-blend」バージョンを採用し、これにより受け入れ率とプログラミングエージェントの速度が向上しました。
可用性と技術要件
- 速度と生成：生成速度は毎秒約40トークンから約70トークンへと跳ね上がり、プリフィル（prefill）フェーズも以前の毎秒850トークンから毎秒1200トークンへと改善されました。
- メモリ消費：10万トークンのコンテキストを扱う場合、約24GBのRAMが必要です。
- サポートされているデバイス：ユーザーは、64GB以上のRAMを搭載したM4以降のプロセッサを搭載したMacでツールを実行できます。ただし、プリフィルフェーズはM5と比較してM4チップでは約4倍遅くなることに注意が必要です。
ユーザーは、Junieのコマンドラインインターフェースの直接アップデートコマンドを使用してツールを更新するか、同社が提供する専用スクリプトを使用してフルインストールを行うことができます。また、DFlash2モデルはHuggingFaceプラットフォームからダウンロード可能です。