Googleの研究者らによる最近の調査研究により、Gemini for Google (GfG)というソフトウェア工学に特化したAIモデルの開発が明らかになりました。このモデルは、企業固有の大規模なプログラミングシステムを扱う際に、一般的な大規模言語モデルが抱えるギャップを埋めることを目的としています。
プログラミング環境における汎用モデルの課題
Googleのコードの75%以上がAIによって生成または下書きされているにもかかわらず、汎用モデルには独自のライブラリ、独自の設計パターン、および企業が依存する内部プログラミング言語に関する深い知識が欠けています。この問題を解決するため、研究チームは1兆トークンに達する膨大な社内データでGeminiモデルをトレーニングしました。
トレーニングの仕組みと実践的な結果
チームはGfGのトレーニングにおいて、コードレビュー、バグログ、社内ドキュメント、操作ログを含む開発ライフサイクル全体を採用しました。モデルが一般的な推論能力を失わないようにするため（「破局的忘却」として知られる現象）、研究者たちは「中間学習介入」や「データ再生」の技術を使用して、一般的な効率を維持しながら専門知識を統合しました。
2万9000人の開発者を対象としたテストでは具体的な結果が示され、タスクを完了するために必要なAIとのやり取りの回数が23.1%減少し、応答速度が8.9%向上しました。また、修正なしで14日間有効なまま使用できるAI生成コードの割合は16.8%増加しました。
なぜこのニュースが重要なのか
この進展は、大企業がAIに依存する方法における転換点を示しています。目標はもはや一般的な補助ツールを使用することだけではなく、企業の特定の技術的文脈を理解する「組織的」なモデルを構築することにあります。このモデルは、大規模なシステムアップデートなどの複雑なタスクにおいてその有効性を証明し、手作業と比較して所要時間を50%短縮することに貢献したほか、自動コード最適化システムを通じたコンピューティングリソースの消費削減にも寄与しました。