AI 스타트업 Etched는 Jane Street가 Etched가 출하한 첫 완전한 AI 시스템을 테스트한 뒤 자사 데이터센터에서 운영하기 위해 구매한 가운데, Jane Street가 주도한 신규 투자 라운드에서 7억 달러를 조달했다고 발표했다. 이번 라운드로 회사의 기업가치는 210억 달러로 상승했으며, 이는 불과 한 달 전 진행된 이전 라운드 이후 이뤄진 눈에 띄는 도약이다.
Etched는 12월 기업가치 50억 달러에 도달한 뒤, 7월 기업가치 103억 달러로 Series C 라운드에서 3억 달러를 조달했다. 이에 따라 회사의 기업가치는 한 달 동안 약 110억 달러 상승해 이전 수준의 두 배를 넘는 210억 달러에 이르렀다.
추론 단계에 대한 베팅
Etched는 개별 칩만 판매하는 대신, 자사가 «프런티어 추론 클러스터»(frontier inference clusters)라고 부르는 통합 시스템 형태로 기술을 제공한다. 설계는 사용자가 AI 모델에 요청을 보낸 뒤 시작되는 추론 과정에 초점을 맞춘다. 이 단계에서 요청을 이해하고 답변을 생성한다.
회사의 공동 창업자이자 최고운영책임자인 Robert Wachen은 추론이 «프리필»(prefill)과 «디코드»(decode)라는 두 단계로 구성된다고 설명했다. 프리필에는 요청과 그 맥락을 이해하기 위한 많은 연산이 필요하며, 디코드 단계는 사용자의 최종 답변을 구성하는 토큰을 생성하기 때문에 메모리에 더 크게 의존한다.
처리를 가속하는 두 가지 새로운 구성 요소
Etched는 두 단계의 요구사항을 처리하기 위해 두 가지 구성 요소를 처음부터 설계했다고 밝혔다. 프리필 칩은 낮은 전압으로 작동하므로 고성능 AI 칩에서 흔히 발생하는 열 문제 없이 더 많은 트랜지스터를 집적할 수 있다. 회사에 따르면 이는 더 많은 토큰을 더 빠른 속도로 처리할 수 있게 한다.
디코드 단계에서는 회사가 «클러스터 수준 메모리»라고 부르는 새로운 유형의 메모리와 인터커넥트를 개발했다. 이 구조를 통해 여러 칩이 높은 속도와 낮은 지연 시간으로 연결되고 공유 메모리 풀을 사용할 수 있으며, Etched는 이것이 속도 향상과 비용 절감으로 이어질 수 있다고 설명한다.
Jane Street의 투자가 중요한 이유
이번 거래에서 Jane Street의 역할은 자금 제공에 그치지 않는다. Jane Street의 발표에 따르면 회사는 칩을 테스트해 초기 결과가 만족스럽다고 판단한 뒤, 자사 데이터센터에 Etched를 위한 전용 랙을 설치했다. 이 조치는 높은 수준의 연산 부하를 사용하는 기업이 스타트업에 실질적인 테스트를 제공한다는 의미가 있으며, 이번 라운드는 추론 최적화가 AI 인프라 내부에서 독립적인 경쟁 분야가 될 수 있다는 투자자들의 신뢰를 반영한다.
다른 투자자로는 Kleiner Perkins, Sequoia Capital, Andreessen Horowitz, Peter Thiel, Tiger Global, Bain Capital Ventures, Neo, Stripes, Primary, Positive Sum, Diffusion, Argo, Blackstone이 참여했다.
Etched는 초기 단계에서 생겨난 인식도 바로잡으려 한다. 이 인식은 회사가 특정 모델을 칩 내부에 «새겨» 각 칩이 하나의 고급 모델만 실행하도록 설계된다는 것이었다. 회사는 이것이 더 이상 현재의 접근 방식이 아니며, 자사 시스템은 어떤 고급 모델도 실행할 수 있다고 밝혔다.