关注最新报道、解读和相关科技故事。
数据中心正转向由 CPU、GPU、NPU、专用加速器和光互连组成的异构集群，而不是让单个 GPU 承担所有任务。这一转变使软件、网络管理和能源成为降低 token 成本、提高硬件利用率的关键因素。
Semiconductor Engineering 的一项分析认为，传统上将硬件团队与软件团队分开的做法已不再适用于现代系统，尤其是在人工智能工作负载加速以及能源和散热限制日益严峻的情况下。这推动企业在设计软件的同时开发更加专用的硬件，但工具、成本和标准化方面的挑战仍然存在。