A startup Etched anunciou a captação de US$ 700 milhões em uma nova rodada liderada pela Jane Street, depois que esta testou o primeiro sistema completo de inteligência artificial enviado pela Etched e o comprou para operá-lo em seu data center. A rodada elevou a avaliação da empresa para US$ 21 bilhões, em um salto expressivo ocorrido apenas um mês depois de uma rodada anterior.
A Etched havia alcançado uma avaliação de US$ 5 bilhões em dezembro e, em seguida, levantou US$ 300 milhões em uma rodada Series C em julho, com uma avaliação de US$ 10,3 bilhões. Assim, sua avaliação aumentou cerca de US$ 11 bilhões em um mês, chegando a mais do que o dobro do nível anterior.
Aposta na etapa de inferência
A Etched oferece suas tecnologias na forma de sistemas integrados que chama de “clusters de inferência de fronteira” (frontier inference clusters), em vez de se limitar à venda de chips individuais. Seu projeto se concentra no processo de inferência, que começa depois que o usuário envia uma solicitação a um modelo de inteligência artificial; é nessa etapa que a solicitação é compreendida e a resposta é gerada.
Robert Wachen, cofundador e diretor de operações da empresa, explicou que a inferência consiste em duas etapas: “prefill” e “decode”. O prefill exige uma grande quantidade de operações computacionais para compreender a solicitação e seu contexto, enquanto a etapa de decode depende mais da memória, pois produz os tokens que formam a resposta final ao usuário.
Dois novos componentes para acelerar o processamento
A Etched afirma ter projetado do zero dois componentes para lidar com as exigências das duas etapas. O chip de prefill opera com baixa tensão, o que permite reunir um número maior de transistores sem os problemas térmicos comuns em chips de inteligência artificial de alto desempenho. Segundo a empresa, isso permite processar um número maior de tokens em uma velocidade mais alta.
Na etapa de decode, a empresa desenvolveu um novo tipo de memória e uma interconexão que chama de “memória em nível de cluster”. Essa arquitetura permite que vários chips se comuniquem e usem um conjunto de memória compartilhado em alta velocidade e com baixa latência, o que, segundo a Etched, pode aumentar a velocidade e reduzir o custo.
O que importa no investimento da Jane Street?
O papel da Jane Street no acordo não se limita ao financiamento; seu anúncio indica que a empresa testou o chip e considerou satisfatórios seus resultados iniciais, depois instalando para ele um rack dedicado em seu data center. Essa medida oferece à startup um teste prático por parte de uma empresa que utiliza cargas computacionais exigentes, enquanto a rodada reflete a confiança dos investidores de que a melhoria da inferência pode ser uma área competitiva independente dentro da infraestrutura de inteligência artificial.
A lista de outros investidores inclui Kleiner Perkins, Sequoia Capital, Andreessen Horowitz, Peter Thiel, Tiger Global, Bain Capital Ventures, Neo, Stripes, Primary, Positive Sum, Diffusion, Argo e Blackstone.
A Etched também tenta corrigir uma percepção que surgiu em seus estágios iniciais, segundo a qual a empresa “gravava” um modelo específico em seus chips, de modo que cada chip fosse projetado para operar um único modelo avançado. A empresa afirma que essa não é mais sua abordagem atual e que seus sistemas são capazes de operar qualquer modelo avançado.