领导 Microsoft 内部负责云计算平台硬件和基础设施规划、工程、开发与部署相关机构的拉尼·布尔卡尔，提出了不同于传统的人工智能时代进步衡量方式。她建议，不要只关注芯片数量、数据中心规模或系统能够生成的令牌数量，而应采用“产出率”（Yield）这一概念：即利用可用资源能够产生多少有用产出。
布尔卡尔借用了半导体行业中的这一概念，在半导体行业，产出率指的是每片晶圆能够生产出的合格芯片数量。按照她的观点，这一原则应扩展至资本、能源、内存、通信、模型和软件，最终延伸到人工智能在工作和日常生活中创造的价值。
为什么扩大基础设施已不再足够？
文章指出，人工智能的普及速度超过了互联网、个人电脑和智能手机的发展速度，但其全球使用率目前仍仅覆盖约18%的劳动力，而且大多数使用集中在对话场景。随着系统转向执行推理、规划、工具使用以及更长的代理工作流，基础设施需求正在发生根本变化。
布尔卡尔提到，一个代理任务可能使用超过普通对话交互所消耗令牌数量的3400倍。这种增长给能源、机架密度、带宽规模和内存容量带来压力。她认为，传统上通过增加更多硅、内存、能源和光纤来应对的方式不可能无限延续，因为每一次新的改进都可能需要比上一代更大的投入。
这一愿景提出了两条并行路径：对现有架构进行渐进式改进，以提升效率、利用率和经济可行性；以及进行更深层次的转型，通过系统和模型设计中的新架构、新材料和新方法，重新塑造性能曲线。布尔卡尔以处理器在时钟频率提升遭遇功耗瓶颈后转向多核设计，以及 NAND 内存从平面设计转向垂直设计为例。
产出率是所有层级协作的结果
文章强调，瓶颈不一定要在其出现的层级得到解决。单独衡量某个组件的性能并不足够，因为收益和损失会在数据中心、硅片、模型以及协调代理任务的工具之间累积。因此，布尔卡尔呼吁采用“协同设计”，先确定所需产出，再对整个系统进行优化，而不是最大化单个组件的性能。
在内存方面，Microsoft 认为问题不仅是组件不足，更是系统层面的挑战。推理需要容纳更大的模型和更长的上下文，并快速提供数据；而代理还会在可能持续数分钟或数小时的循环中加入生成、检索、工具使用和持久内存操作。Azure Maia 平台的经验表明，降低 KV cache 内存消耗可以结合模型工程、数据科学和压缩技术，同时还需要通过软件管理内存层级，并优化硅片、数据移动和编译器。
这里的重点并不只是增加新的字节，而是从每个可用字节中提取更多有用智能。
从网络到能源
在集群层面，智能并非来自单个芯片，而是来自数千个作为统一系统运行的芯片。因此，产出不仅取决于连接速度，还取决于拥塞管理、故障恢复、工作负载分配、编程复杂度，以及硅片、系统和软件之间的边界。
布尔卡尔表示，Maia 平台的设计始于希望实现的结果，即在整个集群范围内实现高效推理，而不是从预先确定的网络设计出发。这包括构建双层扩展网络、将网卡功能集成到芯片中，以及开发专用传输层。根据文章，这种方法在高密度推理集群中实现了可扩展的性能，简化了编程，提高了工作负载的灵活性，并减少了所需的网络硬件。
至于能源，它已经从系统消耗的资源转变为必须从电网一直纳入芯片设计的约束。文章指出，机架功率已从几十千瓦上升到数百千瓦，数据中心园区也已达到吉瓦级运行规模。文章还提到固态变压器和800伏直流电分配等解决方案，以减少配电损耗。
Microsoft 推出的基于 Arm 的 Azure Cobalt 200 服务器处理器就是这种协同设计的例子；它允许每个核心独立控制电压和频率，并通过软件确定每台虚拟机的功耗。该公司表示，精细控制能够在保护关键工作负载性能的同时调整功耗，从而在相同的功率限制下运行更多服务器。
实际重要的是什么？
这一观点的重要性在于，它将讨论从原始容量竞赛转向了资源转化为结果的效率。对于云服务运营商和数据中心而言，这意味着硬件评估不能与网络、软件、冷却和负载管理割裂开来。对于模型和代理开发者而言，内存效率、任务长度和工具集成的重要性，与模型规模一样会影响可扩展性。
不过，这一结论仍然是 Microsoft 提出的观点，并且部分建立在其大规模构建和运行人工智能基础设施的经验之上，并非适用于所有环境的独立、已证实标准。此外，文章没有提供衡量 Maia 或 Cobalt 200 性能收益的详细对比数据，也没有确定在 Azure 场景之外实施上述解决方案所需的成本或时间表。
尽管如此，“产出率的必要性”仍向行业提出了一个实际问题：不断增加的能源、芯片和数据中心投资，是否正在带来能够以合理成本获得的智能，以及具体的生产力和价值？在布尔卡尔的设想中，产出率并不在生成令牌时完成，而是在这些输出转化为更快的科学发现、更早发现的医疗信号、更好的学习效果，或为小型企业创造的新机会时才真正实现。