La startup Etched anunció que recaudó 700 millones de dólares en una nueva ronda liderada por Jane Street, después de que esta última probara el primer sistema completo de inteligencia artificial enviado por Etched y lo comprara para operarlo en su centro de datos. La ronda elevó la valoración de la empresa a 21.000 millones de dólares, en un salto notable que se produjo apenas un mes después de una ronda anterior.
Etched había alcanzado una valoración de 5.000 millones de dólares en diciembre y posteriormente recaudó 300 millones de dólares en una ronda Series C en julio, con una valoración de 10.300 millones de dólares. De este modo, su valoración aumentó en unos 11.000 millones de dólares en un mes, hasta superar el doble de su nivel anterior.
Apuesta por la etapa de inferencia
Etched ofrece sus tecnologías en forma de sistemas integrados que denomina «clústeres de inferencia de frontera» (frontier inference clusters), en lugar de limitarse a vender chips individuales. Su diseño se centra en el proceso de inferencia, que comienza después de que el usuario envía una solicitud a un modelo de inteligencia artificial; en esta etapa se interpreta la solicitud y se genera la respuesta.
Robert Wachen, cofundador y director de operaciones de la empresa, explicó que la inferencia consta de dos etapas: «prefill» y «decodificación» (decode). El prefill requiere una gran cantidad de operaciones computacionales para comprender la solicitud y su contexto, mientras que la etapa de decodificación depende en mayor medida de la memoria, porque produce los tokens que forman la respuesta final para el usuario.
Dos nuevos componentes para acelerar el procesamiento
Etched afirma que diseñó desde cero dos componentes para satisfacer los requisitos de ambas etapas. El chip de prefill funciona con un bajo consumo energético, lo que permite concentrar un mayor número de transistores sin los problemas térmicos habituales de los chips de inteligencia artificial de alto rendimiento. Según la empresa, esto permite procesar un mayor número de tokens a mayor velocidad.
En cuanto a la etapa de decodificación, la empresa desarrolló un nuevo tipo de memoria y una interconexión que denomina «memoria a nivel de clúster». Esta arquitectura permite que varios chips se comuniquen y utilicen un conjunto de memoria compartida a alta velocidad y con baja latencia, lo que, según Etched, podría aumentar la velocidad y reducir el coste.
¿Qué importancia tiene la inversión de Jane Street?
El papel de Jane Street en esta operación no se limita a la financiación; su anuncio indica que probó el chip y consideró satisfactorios sus resultados iniciales, y posteriormente instaló para él un rack específico en su centro de datos. Este paso proporciona a la startup una prueba práctica por parte de una entidad que utiliza cargas computacionales exigentes, mientras que la ronda refleja la confianza de los inversores en que la mejora de la inferencia puede constituir un ámbito competitivo independiente dentro de la infraestructura de inteligencia artificial.
La lista de otros inversores incluye a Kleiner Perkins, Sequoia Capital, Andreessen Horowitz, Peter Thiel, Tiger Global, Bain Capital Ventures, Neo, Stripes, Primary, Positive Sum, Diffusion, Argo y Blackstone.
Etched también intenta corregir una percepción surgida en sus primeras etapas: que la empresa «graba» un modelo específico dentro de sus chips, de modo que cada chip está diseñado para ejecutar un único modelo avanzado. La empresa afirma que este ya no es su enfoque actual y que sus sistemas pueden ejecutar cualquier modelo avanzado.