Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.
Eine Studie der UC Berkeley und von FuriosaAI untersucht den Einsatz von High Bandwidth Flash zur Erweiterung des Speichers von KI-Beschleunigern beim Betrieb großer Sprachmodelle. Simulationen zufolge könnte die Abschlusslatenz um bis zu 87 % sinken, bei potenziellen Verbesserungen des Energieverbrauchs und einer Verlängerung der Schreibhaltbarkeit durch cache-bewusste Planung.
Die Produktionskapazität von Substraten ist kein ausreichendes Kriterium mehr, um die Anforderungen der fortschrittlichen Verpackung zu erfüllen; Paketgröße, Schichtanzahl, Verbindungsdichte und integrierte Funktionen machen jedes Design eher zu einem spezialisierten Fertigungsprozess. Dies beeinflusst Materialien, Ausrüstung, Qualifizierung und Bezugsquellen, insbesondere bei Paketen für künstliche Intelligenz, Hochleistungsrechnen, integrierte Optik und Automobile.