Память с высокой пропускной способностью HBM сталкивается с растущими физическими и производственными ограничениями, поскольку разработчики систем продолжают требовать более высокой пропускной способности для обработки нагрузок искусственного интеллекта. Согласно обсуждению на Hot Chips 2026, наиболее очевидное решение на данный момент — добавление большего числа кристаллов DRAM в корпус — одновременно повышает сложность утончения кристаллов, управления теплом, обеспечения выравнивания и сохранения приемлемого выхода годных изделий.
HBM использует трёхмерные стэки кристаллов памяти, расположенные над базовым логическим кристаллом, причём эти слои соединяются через тысячи или десятки тысяч вертикальных соединений сквозь кремний (TSV). Увеличение числа таких соединений обеспечивает более высокую пропускную способность, но занимает площадь, которую можно было бы выделить под ячейки памяти. Поэтому рост производительности не приводит к пропорциональному увеличению ёмкости на одну пластину, а повышает расход кремния и производственные энергозатраты на каждый бит по сравнению с традиционной памятью DRAM.
Каждый дополнительный слой повышает производственные риски
Кристаллы DRAM необходимо утончать, чтобы высота HBM-модуля оставалась в пределах, допустимых корпусом. Однако более тонкими кристаллами сложнее манипулировать во время производства и упаковки, и они сильнее подвержены деформации. Это влияет на работу с пластинами, выравнивание выступов и соединение кристаллов друг с другом. Кроме того, увеличение высоты стэка повышает плотность мощности и удлиняет тепловой путь внутри модуля.
Вероятность дефектов возрастает с каждым новым слоем. В материале нижнего заполнения (underfill) могут образовываться пустоты, а из-за плохого выравнивания или отклонений процессов — структурные дефекты. Любая из этих неисправностей может превратить весь стэк в дорогостоящий брак, что снижает выход годных изделий и фактическое предложение DRAM.
SK hynix привела пример этих проблем в своей работе над стэками HBM высотой 16 кристаллов. Jaesik Lee, вице-президент по инженерии корпусов в SK hynix America, заявил во время своего выступления на Hot Chips 2026, что увеличение толщины куба с 720 до 775 микронов обеспечивает дополнительный запас, однако кристаллы всё равно необходимо сделать на 10% тоньше по сравнению со стэком из 12 кристаллов. Среди других проблем — уменьшение высоты зазоров, сокращение шага выступов, утончение стенок кристаллов, а также повышение плотности мощности и пропускной способности.
Пропускная способность достигается за счёт площади
Sangwook Han, участник команды проектирования Samsung Memory, заявил, что HBM3E содержит 128 банков в каждом кристалле DRAM, тогда как HBM4 достигает 256 банков на кристалл. Такая архитектура требует большего числа линий данных и периферийных схем для соединения кристаллов с базовым кристаллом, а затем с GPU или XPU через микросоединения и интерпозер (interposer).
Эта архитектура объясняет, почему сложно повышать производительность простым ускорением TSV: увеличение скорости этих соединений может быть трудным или рискованным, поэтому разработчики пошли по пути увеличения их числа. Однако более крупная матрица TSV занимает площадь кристалла, что постоянно вынуждает сокращать расстояние между соединениями. По словам Han, расширение PHY-схем ввода-вывода в базовом кристалле ещё сложнее.
В ходе своего основного доклада Jim Handy из Objective Analysis оценил, что объём памяти, получаемый с одной пластины в HBM, составляет примерно треть от показателя традиционной DDR. Это означает, что производство HBM потребляет большое число пластин, при этом разные типы DRAM производятся на близких технологических линиях; следовательно, рост спроса на HBM может оказать давление на поставки DRAM в целом.
Охлаждение превращается в архитектурное ограничение
Тепло внутри стэка HBM распределяется неравномерно. Базовый кристалл обычно является самым горячим, поскольку выполняет более сложные операции и содержит высокоскоростные соединения, тогда как радиатор находится в верхней части стэка. Увеличение высоты стэка повышает тепловое сопротивление между источником тепла и средством охлаждения.
Raghu Sreeramaneni, специалист по архитектуре проектирования HBM в Micron, заявил, что повышение температуры может превратить операции обновления ячеек DRAM в проблему надёжности. Поэтому тепловые решения стали фактором, определяющим саму конструкцию системы, а не этапом, который добавляется после завершения проектирования. Это важный момент для разработчиков системных корпусов, объединяющих несколько GPU и HBM в одном пространстве.
Почему это важно?
Анализ связывает ограничения HBM с более широкой проблемой на рынке памяти. Handy назвал три причины дефицита DRAM: ускоряющиеся расходы на искусственный интеллект и спрос на сверхбыструю память, снижение доступности пластин DRAM из-за того, что HBM потребляет больше материала на каждый бит, а также недостаточные производственные мощности для удовлетворения спроса.
Источник указывает, что компании не добавляли новые производственные мощности более десяти лет, поскольку рост рынка позволял увеличивать число гигабайт на одной пластине вместо строительства новых фабрик. Теперь же строительство новой фабрики DRAM занимает как минимум два года и может длиться дольше в зависимости от доступности электроэнергии, воды и рабочей силы, а также экологических ограничений. Пока нет гарантии, что строящихся расширений будет достаточно для восстановления баланса цен и предложения.
Существует и другой разрыв между ростом вычислительных возможностей и памяти. По словам Sreeramaneni, вычислительные мощности увеличиваются примерно втрое каждые два года, тогда как HBM за тот же период растёт примерно вдвое, а это означает, что «стена памяти» не исчезла, а может стать ещё более острой.
Будущие направления развития
Отрасль изучает улучшения, выходящие за рамки добавления новых слоёв, включая усовершенствованные SerDes PHY для памяти, интерпозеры большего размера или из других материалов, каналы с более высокой пропускной способностью, а в будущем — и внедрение оптических технологий. Процессы соединения также могут перейти от термокомпрессионных микровыступов к fusion bonding и hybrid bonding, которые поддерживают шаг до однозначного диапазона в микронах и могут снизить тепловое сопротивление благодаря уменьшению числа изолирующих слоёв между кристаллами.
Источник не предлагает быстрого решения проблемы дефицита или тепловых ограничений. Однако он показывает, что расширение HBM превратилось из задачи повышения плотности памяти в вызов, затрагивающий всю архитектуру системы: от производственного процесса и выхода годных изделий до упаковки, охлаждения и места обработки данных. По мере дальнейшего распространения искусственного интеллекта это может привести к распределённой обработке, включающей обработку внутри памяти или внутри сенсора на периферии, а также к сокращению объёма данных, передаваемых в центры обработки данных.