Together AIが「Together Compiler」を発表：GPUのパフォーマンスを自律的に最適化するAIエージェント

Together AIは、Together Compilerと呼ばれる新しい技術革新を明らかにしました。これは、AIプログラミングエージェント（AI Coding Agents）を活用して、同社の推論インフラストラクチャを駆動するGPU（グラフィックス処理ユニット）のコード最適化タスクを処理する高度なシステムです。このシステムの目的は、人間のエンジニアが手作業による骨の折れる作業に何日も、あるいは何週間も費やしていたパフォーマンス調整プロセスを自動化することです。

人間の監督下での完全な自動化

Together Compilerシステムは、エンジニアからの個別の実験に対する直接的な指示なしに、GPUカーネル（GPU kernels）の生成、テスト、および最適化を行います。同社の説明によると、最適化のサイクルは完全に自律的に動作し、システムは一晩で顕著なパフォーマンスの向上を達成することができます。それにもかかわらず、Together AIは「人間参加型（Human-in-the-loop）」アプローチを採用しており、最終的な評価や本番環境での実際のデプロイは、変更を承認する前に人間のエンジニアによる確認を経る仕組みになっています。

加速するAIモデルへの挑戦

この動きは、新しいAIモデルがリリースされるペースが加速しているという大きな課題に対応するものです。同社のデータによると、OpenRouterプラットフォーム経由のトラフィックの80%は、現在、過去3か月以内にリリースされたモデルからのものにすぎません。各モデルには異なる技術的要件があるため、特定のモデル用に最適化されたコードが別のモデルでは同じ効率で動作しない可能性があり、エンジニアリングチームにはこれらの変更に手動で追いつくための多大なプレッシャーが生じています。

実験速度とパフォーマンスの飛躍

Together AIは、テストプロセスを大幅に加速する方法を発見しました。プログラミングエージェントがコードを変更するたびに推論エンジンを再起動するのではなく、Together Compilerは実行中のエンジンに新しいコードを直接ロードします。この手順により、初期化時間が約467秒からわずか9秒に短縮され、システムは既存のシステムと比較して252倍多くの最適化実験を実行できるようになりました。

実用的な成果として、モデルの種類や使用するハードウェアに応じて、標準的な公開設定と比較して最大2.6倍の推論スループット（Inference Throughput）の向上が記録されました。このシステムは現在、同社のインフラストラクチャ全体で1日あたり数兆個のトークン（Tokens）を処理しています。

開発者にとっての実質的な変更点

Together AIのサービスを利用する開発者や企業にとって、この進化は必ずしも直接的な価格引き下げることを意味するわけではなく、同じコストでより高いパフォーマンスと効率を得られることを意味します。実用的なメリットは、以下の点に要約されます。

• ハードウェアの効率: 利用可能なGPUから最大限のエネルギーを引き出し、リソースの無駄を削減します。
• 適応の迅速さ: 長期の手動最適化サイクルを待つことなく、最新のモデルをリリース直後から最高パフォーマンスで実行できます。
• パフォーマンスの信頼性: 何百もの自動化された実験を実行することにより、システムは時間が限られているため人間のエンジニアでは発見できないかもしれないソフトウェアソリューションに到達します。

Together Compilerは、AIインフラストラクチャの管理方法における重要な転換点を示しています。AIはもはや最終製品であるだけでなく、それが稼働するハードウェアとソフトウェアを改善するための不可欠なツールとなり、より自己最適化されたシステムへと向かう技術的循環を完結させています。