谷歌研究人员最近发布的一项研究报告显示,公司开发了一种名为 Gemini for Google (GfG) 的软件工程专用人工智能模型。该模型旨在填补通用大语言模型在处理大型企业专用软件系统时的空白。
通用模型在编程环境中的挑战
尽管谷歌超过 75% 的代码是由人工智能生成或起草的,但通用模型缺乏对公司所依赖的专用库、独特设计模式和内部编程语言的深度了解。为了解决这一问题,研究团队使用 1 万亿个 Token 的海量内部数据对 Gemini 模型进行了训练。
训练机制与实际成果
团队在训练 GfG 时涵盖了整个开发生命周期,包括代码审查、错误日志、内部文档和操作记录。为了确保模型不会丧失通用推理能力(即所谓的“灾难性遗忘”),研究人员采用了“中间学习干预”和“数据重放”技术,在整合专用知识的同时保持了通用效率。
涉及 2.9 万名开发人员的测试显示了显著成果:完成任务所需的人工智能交互次数减少了 23.1%,响应速度提高了 8.9%。此外,人工智能生成的代码在 14 天内无需修改即可使用的比例提高了 16.8%。
为何此消息重要?
这一进展代表了大型企业依赖人工智能方式的转变;目标不再仅仅是使用通用辅助工具,而是构建能够理解公司特定技术背景的“企业级”模型。该模型在复杂任务中证明了其有效性,例如在大规模系统更新中,与手动操作相比,它将耗时减少了 50%,并通过自动代码优化系统改善了计算资源消耗。