初创公司Etched宣布完成由Jane Street领投的新一轮7亿美元融资,此前Jane Street测试了Etched交付的首套完整人工智能系统,并购买该系统以部署在其数据中心。此轮融资将公司的估值推高至210亿美元,这一显著跃升距离上一轮融资仅一个月。
Etched的估值曾在12月达到50亿美元,随后在7月完成3亿美元的C轮融资,估值达到103亿美元。因此,该公司估值在一个月内增加约110亿美元,达到此前水平的两倍多。
押注推理阶段
Etched以其称为“前沿推理集群”(frontier inference clusters)的完整系统形式提供技术,而不是仅仅销售单独的芯片。其设计聚焦于用户向人工智能模型发送请求后开始的推理过程,即理解请求并生成答案的阶段。
公司联合创始人兼首席运营官Robert Wachen解释说,推理由“预填充”(prefill)和“解码”(decode)两个阶段组成。预填充需要大量计算来理解请求及其上下文,而解码阶段在更大程度上依赖内存,因为它会生成构成用户最终答案的标记。
用于加速处理的两种新组件
Etched表示,公司从零开始设计了两种组件,以处理这两个阶段的需求。预填充芯片以低电压运行,因此能够集成更多晶体管,同时避免高性能人工智能芯片通常面临的散热问题。公司称,这使其能够以更高速度处理更多标记。
在解码阶段,公司开发了一种新型内存和一种称为“集群级内存”的互连结构。这种架构允许多块芯片以高速度和低延迟进行通信并使用共享内存池,Etched称这可能带来速度提升和成本降低。
Jane Street的投资为何重要?
Jane Street在这笔交易中的作用并不局限于提供资金;其公告显示,该公司测试了这款芯片,并认为其初步结果令人满意,随后在自己的数据中心为其安装了专用机架。这一步为这家初创公司提供了来自使用高要求计算负载的一方的实际测试,同时也反映出投资者相信,推理优化可能成为人工智能基础设施内部一个独立的竞争领域。
其他投资者包括Kleiner Perkins、Sequoia Capital、Andreessen Horowitz、Peter Thiel、Tiger Global、Bain Capital Ventures、Neo、Stripes、Primary、Positive Sum、Diffusion、Argo和Blackstone。
Etched还试图纠正其早期阶段形成的一种看法,即公司会将特定模型“刻入”芯片,使每块芯片都专门用于运行一个先进模型。公司表示,这已不再是其当前采用的方法,其系统能够运行任何先进模型。