HBM Controller

REACH、大規模AIモデル推論中のメモリエラーからHBMを保護する低コストアーキテクチャを提案

Rensselaer Polytechnic InstituteとIBMの研究者らは、HBMコントローラー内で長スパンの誤り訂正符号を管理するREACHアーキテクチャを提案した。大規模言語モデルの推論ワークロードにおけるデコードコストの削減を目指している。この方式は、一般的なエラーには内符号を使用し、消去として既知の部分を修復するために外符号を使用する。