JetBrainsは、ユーザーのデバイスや独自インフラ上で迅速なタスクを実行する必要があるプログラミングエージェントおよびサブエージェント向けに設計されたオープンモデル「Mellum2.1」をリリースしたと発表した。本リリースは、120億パラメーターを持つMellum2モデルの次世代版であり、25億のアクティブパラメーターを使用する同じMixture of Expertsアーキテクチャを維持しつつ、Apache 2.0ライセンスで提供される。
主な改善はアーキテクチャの変更ではなく、ポストトレーニング段階によるものだ。JetBrainsによると、強化学習への依存度を高め、数千のソフトウェア環境で数百万回の隔離された実行を行い、コードリポジトリ内での実際の作業に近いタスクをモデルに学習させた。
回答からリポジトリ内での作業へ
JetBrainsによると、Mellum2は高速だった一方、ソフトウェアリポジトリを十分な水準で扱うことができなかった。Mellum2.1は、コードベースの探索、ファイルの変更、変更内容の検査が可能になった。これにより、失敗したテストの根本原因の特定、修正の準備、検証など、プログラミングエージェントの計画におけるさまざまな段階の実行に利用できる。
より厳格なデータと環境によるトレーニング
新たなトレーニングタスクには、数学、競技プログラミング、科学、ツールの利用、ソフトウェアエンジニアリングが含まれていた。JetBrainsはオープンデータと社内で開発したタスクを組み合わせたが、オープンデータには壊れたテスト、検証不可能な回答、簡単すぎる問題、または不可能な問題が含まれる可能性があると指摘した。そのため、データソースはトレーニングに投入する前にフィルタリングされた。
同社はまた、内部で数千の環境を実行できる強化学習環境の構築にも注力し、トレーニング中に数百万回の隔離された実験を実施できるようにした。
性能と速度の向上
JetBrainsは、統一された評価設定を使用して、Mellum2.1を前バージョンおよびQwen3.5-9B、Gemma 4 E4Bと比較した。最大の改善はエージェント型プログラミングで見られ、プログラミング、競技プログラミング、数学、ツール呼び出し、一般知識でも追加の向上が確認された。
ポストトレーニングによってアーキテクチャは変更されていないため、モデルの速度はMellum2と同じままだが、マルチトークン予測（MTP）が推論の高速化に寄与する。JetBrainsによると、高負荷時には、このモデルはQwen3.5-9Bのおよそ2倍のトークン数を処理でき、MTPにより1リクエスト当たりの速度も約1.6倍になる。
実際には何が変わるのか？
Mellum2.1は、開発チームに対し、プログラミングエージェントやサブエージェントを構築するための、オープンでセルフホスト可能な選択肢を提供する。これにより、コードとデータを運用主体の管理下に置ける。ただし、示された数値はJetBrainsによる比較テストを反映したものであり、実際のプロジェクトにおけるハードウェア要件や性能上の限界について、独立した詳細は記事中に含まれていない。
モデルは現在、Hugging Faceで提供されている。llama.cpp、Ollama、LM Studio向けのGGUF版に加え、vLLMでの投機的デコーディングに使用されるMTPヘッドは、後日提供される予定だ。