Sigue la cobertura, explicaciones e historias tecnológicas relacionadas.
Un artículo de UC Berkeley y FuriosaAI analiza el uso de High Bandwidth Flash para ampliar la memoria de los aceleradores de inteligencia artificial al ejecutar modelos de lenguaje grandes. Las simulaciones indican una reducción de hasta el 87 % en el tiempo de finalización, con posibles mejoras en el consumo de energía y una prolongación de la vida útil de escritura mediante una planificación consciente de la caché.
La capacidad de producción de plataformas ya no es un criterio suficiente para satisfacer las necesidades del empaquetado avanzado; el tamaño del paquete, el número de capas, la precisión de la interconexión y las funciones integradas hacen que cada diseño se acerque más a un proceso de fabricación especializado. Esto afecta a los materiales, los equipos, la cualificación y las fuentes de suministro, especialmente en los paquetes para inteligencia artificial, computación de alto rendimiento, óptica integrada y automoción.