Стартап Etched привлёк ещё $700 млн при оценке в $21 млрд. Раунд возглавила Jane Street после того, как фонд протестировал ИИ-оборудование компании и купил его.
Рост оценки Etched произошёл очень быстро. В декабре компанию оценивали в $5 млрд. В июле она привлекла $300 млн в рамках раунда Series C при оценке $10,3 млрд. Теперь за месяц оценка выросла ещё почти на $11 млрд и достигла $21 млрд.
Etched поставляет свои ИИ-решения как готовые системы, которые называет frontier inference clusters. Конкурент Nvidia использует для похожих систем термин AI factories.
Сооснователь и операционный директор Etched Роберт Вахен сказал TechCrunch, что интерес инвесторов связан с двумя новыми компонентами, которые компания создала с нуля для ускорения инференса — этапа, который начинается после того, как пользователь отправляет запрос.
По словам Вахена, инференс состоит из двух этапов: prefill и decode. На этапе prefill система обрабатывает запрос и его контекст, что требует больших вычислительных ресурсов. На этапе decode, где основная нагрузка приходится на память, система генерирует выходные токены, то есть ответ, который видит пользователь.
Etched разработала чип для prefill, который работает при низком напряжении. Это позволяет разместить больше транзисторов без типичных проблем с нагревом, характерных для высокопроизводительных ИИ-чипов. За счёт этого система может быстрее обрабатывать больше токенов.
Для этапа decode компания создала новый тип памяти и межсоединение, которое называет cluster-scale memory. «Это позволяет большому числу чипов соединяться и использовать общий пул памяти с очень высокой скоростью и низкой задержкой», — сказал Вахен.
По заявлению Etched, итогом становятся более высокая скорость и меньшие затраты. Компания также пытается избавиться от представления, оставшегося с раннего этапа её работы, будто её чипы жёстко привязаны к одной конкретной модели. Изначально такой подход действительно рассматривался, но сейчас это уже не так: системы Etched могут запускать любые передовые модели.
В блоге о новом раунде Jane Street заявила: «Мы протестировали чип и довольны ранними результатами». Компания добавила, что подход Etched к инференсу даёт точность, которая нужна для самых требовательных рабочих нагрузок, и сообщила, что уже запустила собственную стойку с оборудованием Etched в своём дата-центре.
В число других инвесторов Etched входят Kleiner Perkins, Sequoia Capital и Andreessen Horowitz, а также Peter Thiel, Tiger Global, Bain Capital Ventures, Neo, Stripes, Primary, Positive Sum, Diffusion, Argo и Blackstone.
Источник: TechCrunch.
