随着系统公司持续要求更高的带宽来处理人工智能工作负载，高带宽内存 HBM 正面临日益增加的物理和制造限制。根据 Hot Chips 2026 上的讨论，目前最直接的解决方案是向封装中加入更多 DRAM 裸片，但这反过来增加了裸片减薄、散热管理、对准以及维持可接受良率的难度。
HBM 使用位于基础逻辑裸片之上的 DRAM 裸片三维堆叠结构，这些层通过数千乃至数万个硅通孔（TSV）垂直连接。增加这些连接数量可以提高带宽，但也会占用原本可用于存储单元的面积。因此，性能提升并不会带来每片晶圆容量的同比增长，相比传统 DRAM，HBM 反而会增加每比特所需的硅材料和制造产能。
每增加一层都会提高制造风险
DRAM 裸片必须进行减薄，以使 HBM 单元的高度保持在封装限制范围内。但更薄的裸片在制造和封装过程中更难操作，也更容易发生翘曲。这会影响晶圆搬运、凸点对准以及裸片之间的连接。与此同时，堆叠高度增加会提高功率密度，并延长单元内部的热路径。
随着每增加一层，出现缺陷的可能性也会增加。底部填充材料（underfill）中可能出现空洞，也可能因对准不良或工艺偏差而产生结构缺陷。任何一个此类缺陷都可能使整个堆叠变成高成本废品，从而压低良率并减少实际可供应的 DRAM 数量。
SK hynix 在开发 16 层 HBM 堆叠时就展示了这些挑战。SK hynix America 封装工程副总裁 Jaesik Lee 在 Hot Chips 2026 演讲中表示，将立方体厚度从 720 微米增加到 775 微米可以提供额外裕量，但与 12 层堆叠高度相比，裸片仍需减薄 10%。其他挑战还包括缩小间隙高度、减小凸点间距、减薄裸片侧壁，以及提高功率密度和带宽。
带宽提升以牺牲面积为代价
Samsung Memory 设计团队成员 Sangwook Han 表示，HBM3E 每个 DRAM 裸片包含 128 个存储体，而 HBM4 每个裸片达到 256 个存储体。这种结构需要更多数据通道和外围电路，以便将裸片连接到基础裸片，再通过微连接和中介层（interposer）连接到 GPU 或 XPU。
这一结构解释了为什么不能仅通过提高 TSV 速度来轻易提升性能：提高这些连接的速度可能困难重重或存在风险，因此设计转而增加连接数量。但更大的 TSV 阵列会占用裸片面积，从而迫使其间距不断缩小。Han 表示，扩展基础裸片上的输入输出 PHY 电路则更加复杂。
Objective Analysis 的 Jim Handy 在主题演讲中估计，HBM 每片晶圆产出的内存数量约为传统 DDR 的三分之一。这意味着 HBM 生产会消耗大量晶圆，而不同类型的 DRAM 通常在相近的工艺生产线上制造；因此，HBM 需求增加可能会对整体 DRAM 供应造成压力。
散热正成为架构限制
热量在 HBM 堆叠内部并非均匀分布。基础裸片通常温度最高，因为它执行更复杂的工作并包含高速连接，而散热器位于堆叠顶部。堆叠高度增加，会提高热源与散热手段之间的热阻。
Micron HBM 设计架构工程院士 Raghu Sreeramaneni 表示，温度升高可能使 DRAM 单元刷新操作成为可靠性问题。因此，散热方案已经成为影响系统设计的因素，而不再是在设计完成后才处理的后续步骤。对于在同一空间内组合多个 GPU 和 HBM 单元的系统封装设计者而言，这是一个重要问题。
为什么这条消息很重要？
该分析将 HBM 的限制与内存市场中更广泛的问题联系起来。Handy 指出 DRAM 短缺有三个原因：人工智能支出和对高速内存的需求加速增长；由于 HBM 每比特消耗更多资源，DRAM 晶圆的可用量下降；以及制造产能不足以跟上需求。
消息来源指出，过去十多年中，企业没有增加新的制造产能，因为市场增长允许通过提高每片晶圆的千兆字节数来满足需求，而不必建设新工厂。但现在，新 DRAM 工厂至少需要两年才能建成，具体时间还可能因电力、用水、劳动力供应和环境限制而延长。目前仍无法保证正在建设的扩建项目足以使价格和供应重新达到平衡。
计算能力和内存容量的增长之间还存在另一道鸿沟。Sreeramaneni 表示，计算能力每两年扩大约三倍，而 HBM 在同一时期增长约两倍，这意味着“内存墙”并未消失，反而可能变得更加严重。
未来的发展方向
行业正在研究超越增加层数的改进方案，包括改进型内存 SerDes PHY、更大的中介层或采用不同材料的中介层、更高带宽的通道，以及未来引入光学技术。此外，互连工艺可能从依赖热压的 microbumps 转向 fusion bonding 和 hybrid bonding。这两种技术支持达到个位数微米范围的间距，并且通过减少裸片之间的绝缘层数量，可能降低热阻。
消息来源没有为短缺或散热限制提供快速解决方案。但它说明，HBM 扩展已经从增加内存密度的问题，转变为影响整个系统架构的挑战：从制造工艺和良率，到封装和散热，再到数据处理的位置。随着人工智能持续普及，这可能推动采用分布式处理，包括在内存中处理或在边缘设备的传感器内处理，并减少发送到数据中心的数据量。