Следите за последними материалами, объяснениями и связанными технологическими историями.
В статье исследователей из Калифорнийского университета в Беркли и FuriosaAI рассматривается использование High Bandwidth Flash для расширения памяти ускорителей ИИ при работе с большими языковыми моделями. Согласно моделированию, время завершения может сократиться до 87%, а энергопотребление и срок службы флеш-памяти могут улучшиться благодаря планированию с учётом кэширования.
Производственная мощность подложек больше не является достаточным критерием для удовлетворения потребностей передовой упаковки; размер корпуса, количество слоёв, точность соединений и интегрированные функции делают каждую конструкцию всё более похожей на специализированный производственный процесс. Это влияет на материалы, оборудование, квалификацию и источники поставок, особенно в корпусах для искусственного интеллекта, высокопроизводительных вычислений, интегрированной оптики и автомобильной отрасли.