JetBrains tarafından geliştirilen yerel geliştirme ve yapay zeka aracı Junie Local, M5 Max işlemcili Mac cihazlarda performansta önemli bir iyileşme kaydetti. Kod oluşturma hızı, önceki sürümdeki yaklaşık 40 token/saniye seviyesinden 70 token/saniye seviyesine yükselirken, saniyede 107 token'a varan hızlı patlamalara ulaşma imkanı sağlandı.
Bu iyileşme, aracın mimarisinde yapılan iki temel değişiklikten kaynaklandı: yeni Splash çıkarım motorunun benimsenmesi ve DFlash2 taslak modelinin entegrasyonu. Bu değişiklikler, MTP teknolojisi ve MLX-VLM motorunun önceki kombinasyonuna kıyasla genel verimliliği iki katına çıkardı.
Aracın performansında pratikte neler değişti?
JetBrains, önceki MLX-VLM motorunu, Inco AI tarafından geliştirilen ve özellikle Qwen modelleri için desteklenen Splash motoruyla değiştirdi. Bu motor, her kod çözme adımında sekiz taslak token'ın aynı anda doğrulanmasına olanak tanırken, bağlam boyutu büyüdükçe kod çözme hızının düşmemesini sağlamak için bağlamlar arası dikkat maliyetini önemli ölçüde azaltıyor. Ayrıca, M5 yongaları için özelleştirilmiş int8 işlem iyileştirmeleri de yeni motora entegre edildi.
Taslak modeli tarafında ise araç, Qwen 3.8-27B modeli için özelleştirilmiş DFlash2 modelini kullandı. Üretimi yavaşlatan aşırı düşünme sorununu önlemek için şirket, SpecForge platformu kullanılarak gerçek programlama yolları ve kodlar üzerinde eğitilmiş Qwen3.8-3.6-27B-blend sürümüne geçti; bu da kabul oranını ve yazılım aracısının hızını artırdı.
Kullanılabilirlik ve teknik gereksinimler
- Hız ve Üretim: Üretim hızı ~40'tan ~70 token/saniye seviyesine yükseldi ve ön hazırlık (prefill) aşaması önceki 850'ye kıyasla saniyede 1200 token'a ulaştı.
- Bellek Tüketimi: Araç, 100 bin token'lık bir bağlamla çalışırken yaklaşık 24 GB RAM gerektiriyor.
- Desteklenen Cihazlar: Kullanıcılar aracı, en az 64 GB RAM'e sahip M4 veya daha yeni işlemcili Mac bilgisayarlarda çalıştırabilirler; ancak M4 yongalarında ön hazırlık aşamasının M5'e kıyasla yaklaşık dört kat daha yavaş olduğu unutulmamalıdır.
Kullanıcılar aracı, Junie komut satırı arayüzündeki doğrudan güncelleme komutuyla güncelleyebilir veya şirketin sağladığı özel betiği kullanarak tam kurulum yapabilirler. Ayrıca DFlash2 modelleri HuggingFace platformu üzerinden indirilebilir durumdadır.