AIスタートアップのEtchedは、Jane StreetがEtchedから出荷された初の完全なAIシステムをテストし、自社のデータセンターで稼働させるために購入した後、Jane Streetが主導した新たなラウンドで7億ドルを調達したと発表した。このラウンドにより同社の評価額は210億ドルとなり、わずか1か月前の前回ラウンドから目覚ましい急増を遂げた。
Etchedの評価額は12月に50億ドルに達し、その後7月にはシリーズCラウンドで3億ドルを、評価額103億ドルで調達していた。これにより同社の評価額は1か月で約110億ドル上昇し、以前の水準の2倍超となった。
推論段階への賭け
Etchedは、単体チップの販売にとどまらず、「フロンティア推論クラスター（frontier inference clusters）」と呼ぶ統合システムとして技術を提供している。同社の設計は、ユーザーがAIモデルにリクエストを送信した後に始まる推論処理に重点を置いている。この段階でリクエストが理解され、回答が生成される。
同社の共同創業者兼最高執行責任者（COO）であるRobert Wachenは、推論が「プリフィル（prefill）」と「デコード（decode）」の2段階で構成されると説明した。プリフィルにはリクエストとその文脈を理解するため大量の計算処理が必要となる一方、デコード段階は、ユーザーへの最終回答を構成するトークンを生成するため、より大きくメモリに依存する。
処理を高速化する2つの新コンポーネント
Etchedは、2つの段階の要件に対応するため、2つのコンポーネントをゼロから設計したとしている。プリフィル用チップは低電圧で動作するため、高性能AIチップに通常見られる熱の問題なしに、より多くのトランジスタを集積できる。これは、より多くのトークンをより高速に処理できることを意味すると同社は説明している。
デコード段階では、同社は「クラスター・レベル・メモリ」と呼ぶ新しいタイプのメモリとインターコネクトを開発した。この構造により、複数のチップが高速かつ低遅延で通信し、共有メモリプールを利用できる。Etchedは、これによって速度の向上とコストの削減が可能になるとしている。
Jane Streetの投資で重要な点は何か
この取引におけるJane Streetの役割は資金提供にとどまらない。同社の発表によると、Jane Streetはチップをテストし、初期結果が満足できるものだと判断した後、自社のデータセンターに専用ラックを設置した。この取り組みは、要求の厳しい計算負荷を使用する企業による実環境での検証をスタートアップに提供する。また、このラウンドは、推論の改善がAIインフラ内で独立した競争分野になり得るという投資家の信頼を反映している。
その他の投資家には、Kleiner Perkins、Sequoia Capital、Andreessen Horowitz、Peter Thiel、Tiger Global、Bain Capital Ventures、Neo、Stripes、Primary、Positive Sum、Diffusion、Argo、Blackstoneが含まれる。
Etchedはまた、初期段階で生じた、同社がチップ内に特定のモデルを「刻み込み」、各チップを1つの先進モデルの実行専用に設計しているという認識の是正にも取り組んでいる。同社によると、これは現在の方針ではなく、同社のシステムはあらゆる先進モデルを実行できる。