La start-up Etched a annoncé avoir levé 700 millions de dollars lors d’un nouveau tour mené par Jane Street, après que cette dernière a testé le premier système complet d’intelligence artificielle livré par Etched et l’a acheté pour l’exploiter dans son centre de données. Ce tour a porté la valorisation de l’entreprise à 21 milliards de dollars, une hausse spectaculaire intervenue seulement un mois après un précédent tour.
Etched avait atteint une valorisation de 5 milliards de dollars en décembre, puis levé 300 millions de dollars lors d’un tour de série C en juillet, pour une valorisation de 10,3 milliards de dollars. Sa valorisation a ainsi augmenté d’environ 11 milliards de dollars en un mois, pour dépasser le double de son niveau précédent.
Un pari sur l’étape de l’inférence
Etched présente ses technologies sous la forme de systèmes intégrés qu’elle appelle des « clusters d’inférence de pointe » (frontier inference clusters), plutôt que de se limiter à vendre des puces individuelles. Sa conception se concentre sur le processus d’inférence qui commence après qu’un utilisateur a envoyé une requête à un modèle d’intelligence artificielle, étape au cours de laquelle la requête est comprise et la réponse générée.
Robert Wachen, cofondateur et directeur des opérations de l’entreprise, a expliqué que l’inférence se compose de deux étapes : le « préremplissage » (prefill) et le « décodage » (decode). Le préremplissage nécessite une grande quantité de calculs pour comprendre la requête et son contexte, tandis que l’étape de décodage dépend davantage de la mémoire, car elle produit les tokens qui constituent la réponse finale destinée à l’utilisateur.
Deux nouveaux composants pour accélérer le traitement
Etched affirme avoir conçu deux composants à partir de zéro pour répondre aux exigences de ces deux étapes. La puce de préremplissage fonctionne à basse tension, ce qui permet de concentrer un plus grand nombre de transistors sans les problèmes thermiques habituels des puces d’intelligence artificielle haute performance. Selon l’entreprise, cela permet de traiter un plus grand nombre de tokens à une vitesse supérieure.
Pour l’étape de décodage, l’entreprise a développé un nouveau type de mémoire et une interconnexion qu’elle appelle « mémoire au niveau du cluster ». Cette architecture permet à plusieurs puces de communiquer et d’utiliser un ensemble de mémoire partagé à haute vitesse et avec une faible latence, ce qui, selon Etched, pourrait accroître la vitesse et réduire les coûts.
Pourquoi l’investissement de Jane Street est-il important ?
Le rôle de Jane Street dans cette transaction ne se limite pas au financement ; son annonce indique qu’elle a testé la puce et jugé ses premiers résultats satisfaisants, puis lui a installé un rack dédié dans son centre de données. Cette étape offre à la start-up un test pratique auprès d’un acteur qui utilise des charges de calcul exigeantes, tandis que le tour reflète la confiance des investisseurs dans le fait que l’amélioration de l’inférence puisse constituer un domaine concurrentiel indépendant au sein de l’infrastructure de l’intelligence artificielle.
Les autres investisseurs comprennent Kleiner Perkins, Sequoia Capital, Andreessen Horowitz, Peter Thiel, Tiger Global, Bain Capital Ventures, Neo, Stripes, Primary, Positive Sum, Diffusion, Argo et Blackstone.
Etched tente également de corriger une perception apparue à ses débuts, selon laquelle l’entreprise « gravait » un modèle spécifique dans ses puces, de sorte que chaque puce était conçue pour exécuter un seul modèle avancé. L’entreprise affirme que ce n’est plus son approche actuelle et que ses systèmes sont capables d’exécuter n’importe quel modèle avancé.