谷歌宣布扩展其专用于人工智能的第八代张量处理单元（TPU）系列，推出了两款新系统：TPU 8tx 和 TPU 8i Max。此次发布旨在通过专注于机密计算需求和长上下文工作负载，进一步增强人工智能基础设施。
用于机密计算的 TPU 8tx 系统
TPU 8tx 系统专为处理敏感数据并受严格监管要求约束的企业而设计。该系统基于现有的 TPU 8t 芯片，并集成了第五代 AMD EPYC 服务器处理器来管理任务和协调数据。这种配置允许用户在机密计算环境中运行人工智能模型，得益于安全虚拟机加密（SEV）技术，该系统在处理、存储和传输过程中为模型权重和数据提供了严格的保护。
谷歌还指出，集成低延迟的 Boardfly 网络使延迟较标准 TPU 8t 系统降低了一倍，使其非常适合微调（Fine-tuning）和强化学习操作。
用于长上下文的 TPU 8i Max 系统
TPU 8i Max 系统针对需要海量内存和高处理能力的工作负载，例如处理大型代码库或扩展视觉内容的自主代理（Autonomous Agents）应用。该系统通过将两个 TPU 8i 单元组合成一个封装，使计算能力、SRAM 内存和 HBM 内存带宽翻倍，从而提高了数据中心内的计算密度。
此次扩展对用户意味着什么？
这一公告代表了谷歌在无需完全重新设计芯片的情况下实现技术选择多样化的战略，公司专注于优化计算、内存和网络的集成方式。随着这两个系统的加入，第八代系列现在包含四个选项，涵盖了大规模训练、快速推理、机密计算和长上下文处理。谷歌重申了其对支持 PyTorch 和 TorchTPU 项目等开源框架的承诺，以促进开发者采用这些系统。
值得注意的是，谷歌目前尚未披露这些系统的定价细节或商业可用时间表，也未宣布在阿拉伯地区的具体项目。