Rensselaer Polytechnic Institute

REACH propone una arquitectura de menor coste para proteger la HBM frente a errores de memoria durante la inferencia de modelos de IA

Investigadores del Rensselaer Polytechnic Institute y de IBM presentaron la arquitectura REACH para gestionar códigos de corrección de errores de largo alcance dentro de un controlador HBM, con el objetivo de reducir el coste de decodificación en cargas de trabajo de inferencia de modelos de lenguaje grandes. La idea se basa en códigos internos para errores comunes y un código externo para corregir las partes conocidas como borradas.