Cloudflare 工程团队成功将其基于人工智能的代码审查工具的运行成本降低了 68%，同时显著加快了审查速度。在此次转型之前，该工具的成本在过去几个月中急剧上升，单次审查的平均成本从 4 月份的 1.19 美元跃升至 8 月底的约 2.46 美元，且初期并未进行重大的结构性调整。
团队进行的内部分析显示，成本上升不仅是因为任务量增加，还因为转向使用了更强大、更大的模型，例如 Anthropic 的模型，特别是使用 Claude Opus 4.7 模型来审查内部标准 Codex。这一转变导致 Token 消耗量增加了两倍多，单次审查的平均 Token 数达到约 299 万个，尽管请求缓存（Prompt Caching）的使用率有所提高，但仍增加了财务负担。
实际采取了哪些措施来降低成本？
公司将实现的改进比例和财务节省归纳为两个主要方面：
- 总节省额中约 40% 来自于对程序员代码的直接改进及其向 OpenCode v2 版本的更新。
- 其余部分通过尝试不同的 AI 模型并平衡每项审查任务所需的工作量来实现。
在全面采用第二版之前，公司通过在影子模式（Shadow Mode）下与第一版并行运行，对系统进行了严格测试。结果显示，两者在批准决策上的一致性达到 98%，这使得系统能够完全过渡到新版本，并将完整审查的速度提高了约 13%。
为什么这个消息很重要？
这一成就凸显了企业在生产环境中部署大规模 AI 代理时所面临的经济和运营挑战。扩展大型语言模型的使用会消耗大量上下文和在单次会话中多次调用时重复的 Token。通过重新设计工具与模型的交互方式，并优化缓存效率和任务路由，Cloudflare 证明了在不牺牲代码审查质量的前提下，可以同时实现成本优化和性能提升。