Стартап Etched объявил о привлечении 700 млн долларов в новом раунде, который возглавила Jane Street, после того как последняя протестировала первую полностью укомплектованную систему искусственного интеллекта, поставленную Etched, и приобрела её для эксплуатации в своём центре обработки данных. Раунд повысил оценку компании до 21 млрд долларов — заметный скачок, произошедший всего через месяц после предыдущего раунда.
В декабре оценка Etched достигла 5 млрд долларов, а затем в июле компания привлекла 300 млн долларов в раунде Series C при оценке в 10,3 млрд долларов. Таким образом, за месяц оценка выросла примерно на 11 млрд долларов, превысив прежний уровень более чем вдвое.
Ставка на этап инференса
Etched представляет свои технологии в виде интегрированных систем, которые называет «передовыми кластерами инференса» (frontier inference clusters), вместо того чтобы ограничиваться продажей отдельных чипов. Её разработка сосредоточена на процессе инференса, который начинается после отправки пользователем запроса модели искусственного интеллекта; на этом этапе запрос понимается и генерируется ответ.
Robert Wachen, соучредитель и операционный директор компании, объяснил, что инференс состоит из двух этапов: «предварительного заполнения» (prefill) и «декодирования» (decode). Предварительное заполнение требует большого объёма вычислений для понимания запроса и его контекста, тогда как этап декодирования в большей степени зависит от памяти, поскольку генерирует токены, из которых состоит окончательный ответ пользователю.
Два новых компонента для ускорения обработки
Etched заявляет, что с нуля разработала два компонента для обработки требований обоих этапов. Чип предварительного заполнения работает при низком напряжении, что позволяет разместить больше транзисторов без типичных для высокопроизводительных чипов искусственного интеллекта проблем с нагревом. По словам компании, это позволяет обрабатывать большее количество токенов с более высокой скоростью.
Для этапа декодирования компания разработала новый тип памяти и межсоединение, которое называет «памятью на уровне кластера». Эта архитектура позволяет нескольким чипам взаимодействовать и использовать общий пул памяти на высокой скорости и с низкой задержкой, что, по словам Etched, может привести к повышению скорости и снижению стоимости.
Что означает инвестиция Jane Street?
Роль Jane Street в этой сделке не ограничивается финансированием: из её объявления следует, что она протестировала чип и сочла его первоначальные результаты удовлетворительными, после чего установила для него специальную стойку в своём центре обработки данных. Этот шаг даёт стартапу практическую проверку со стороны компании, использующей требовательные вычислительные нагрузки, а раунд отражает уверенность инвесторов в том, что совершенствование инференса может стать самостоятельным конкурентным направлением внутри инфраструктуры искусственного интеллекта.
В список других инвесторов входят Kleiner Perkins, Sequoia Capital, Andreessen Horowitz, Peter Thiel, Tiger Global, Bain Capital Ventures, Neo, Stripes, Primary, Positive Sum, Diffusion, Argo и Blackstone.
Etched также пытается скорректировать представление, сформировавшееся на ранних этапах её развития: будто компания «вытравливает» конкретную модель в своих чипах, так что каждый чип предназначен для запуска одной передовой модели. Компания заявляет, что это больше не является её текущим подходом и что её системы способны запускать любую передовую модель.