Das Start-up Etched gab bekannt, 700 Millionen Dollar in einer neuen, von Jane Street angeführten Finanzierungsrunde eingesammelt zu haben, nachdem Jane Street das erste vollständige KI-System getestet hatte, das Etched ausgeliefert hatte, und es für den Betrieb in seinem Rechenzentrum kaufte. Die Runde erhöhte die Bewertung des Unternehmens auf 21 Milliarden Dollar – ein bemerkenswerter Sprung, der nur einen Monat nach einer vorherigen Finanzierungsrunde erfolgte.
Etched hatte im Dezember eine Bewertung von 5 Milliarden Dollar erreicht und im Juli anschließend 300 Millionen Dollar in einer Series-C-Runde bei einer Bewertung von 10,3 Milliarden Dollar eingesammelt. Damit stieg die Bewertung innerhalb eines Monats um rund 11 Milliarden Dollar und erreichte mehr als das Doppelte ihres vorherigen Werts.
Eine Wette auf die Inferenzphase
Etched bietet seine Technologien in Form integrierter Systeme an, die das Unternehmen „frontier inference clusters“ nennt, statt lediglich einzelne Chips zu verkaufen. Das Design konzentriert sich auf den Inferenzprozess, der beginnt, nachdem ein Nutzer eine Anfrage an ein KI-Modell gesendet hat. In dieser Phase wird die Anfrage verstanden und die Antwort erzeugt.
Robert Wachen, Mitgründer und Chief Operating Officer des Unternehmens, erklärte, dass die Inferenz aus den beiden Phasen „Prefill“ und „Decode“ besteht. Für Prefill ist eine große Menge an Rechenoperationen erforderlich, um die Anfrage und ihren Kontext zu verstehen. Die Decode-Phase hängt dagegen stärker vom Speicher ab, da sie die Tokens erzeugt, aus denen die endgültige Antwort für den Nutzer besteht.
Zwei neue Komponenten zur Beschleunigung der Verarbeitung
Etched zufolge hat das Unternehmen zwei Komponenten von Grund auf neu entwickelt, um die Anforderungen der beiden Phasen zu verarbeiten. Der Prefill-Chip arbeitet mit niedriger Spannung, wodurch mehr Transistoren gebündelt werden können, ohne die für leistungsstarke KI-Chips typischen Hitzeprobleme. Nach Angaben des Unternehmens ermöglicht dies die Verarbeitung einer größeren Zahl von Tokens mit höherer Geschwindigkeit.
Für die Decode-Phase entwickelte das Unternehmen eine neue Art von Speicher und eine Verbindungstechnologie, die es „Cluster-Level Memory“ nennt. Diese Architektur ermöglicht es mehreren Chips, mit hoher Geschwindigkeit und geringer Latenz auf einen gemeinsamen Speicherpool zuzugreifen und ihn zu nutzen. Etched zufolge kann dies zu höherer Geschwindigkeit und niedrigeren Kosten führen.
Warum ist die Investition von Jane Street wichtig?
Die Rolle von Jane Street bei dieser Transaktion beschränkt sich nicht auf die Finanzierung. Die Ankündigung des Unternehmens weist darauf hin, dass Jane Street den Chip getestet und die ersten Ergebnisse als zufriedenstellend bewertet hat. Anschließend installierte das Unternehmen dafür ein eigenes Rack in seinem Rechenzentrum. Dieser Schritt bietet dem Start-up einen Praxistest durch einen Betreiber anspruchsvoller Rechenlasten. Zugleich spiegelt die Runde das Vertrauen der Investoren wider, dass die Verbesserung der Inferenz ein eigenständiges Wettbewerbsfeld innerhalb der KI-Infrastruktur werden kann.
Zu den weiteren Investoren zählen Kleiner Perkins, Sequoia Capital, Andreessen Horowitz, Peter Thiel, Tiger Global, Bain Capital Ventures, Neo, Stripes, Primary, Positive Sum, Diffusion, Argo und Blackstone.
Etched versucht außerdem, eine Vorstellung zu korrigieren, die in den frühen Phasen des Unternehmens entstanden war: Demnach „ätzt“ das Unternehmen ein bestimmtes Modell in seine Chips, sodass jeder Chip für den Betrieb genau eines fortschrittlichen Modells entwickelt ist. Das Unternehmen erklärt, dass dies nicht mehr sein aktueller Ansatz sei und seine Systeme jedes fortschrittliche Modell ausführen könnten.