Стартап General Compute, который развивает облачную инфраструктуру для ИИ-вычислений, получил кредит на $400 млн от инвестиционной фирмы Upper90. По данным TechCrunch, это может быть первая сделка, где залогом выступают чипы, созданные специально для инференса — запуска уже обученных моделей ИИ.
Сделка показывает, что рынок ищет более дешёвую инфраструктуру для работы с открытыми моделями на фоне высокой стоимости ИИ-сервисов и токенов. Речь идёт о системах, которые обходятся дешевле, чем запуск новых больших языковых моделей от крупнейших лабораторий.
General Compute основал генеральный директор Финн Пукловски. В мае компания привлекла посевной раунд на $15 млн, чтобы построить так называемый neocloud для инференса на базе чипов SambaNova — производителя, которого поддерживает Intel.
В отличие от инфраструктуры AWS или Azure общего назначения, neocloud создают специально под задачи ИИ. По словам компании, её чипы SN50 рассчитаны именно на инференс, потребляют меньше энергии и не требуют дорогого водяного охлаждения. За счёт этого их можно быстрее разворачивать в большем числе дата-центров, чем GPU. General Compute также утверждает, что новые чипы обеспечат инференс в 16 раз быстрее по сравнению с облаками на базе GPU.
Основная проблема для молодой компании — получить достаточное количество таких чипов. Upper90 уже работала с похожими схемами финансирования: в 2021 году фирма помогла профинансировать закупку GPU для Crusoe, стартапа, который строит дата-центры с упором на энергетику. Сооснователь и глава Upper90 Билли Либби считает, что это был первый кредит под стоимость передовых чипов.
Традиционные кредиторы тогда избегали таких сделок из-за рисков и неопределённости, связанных с падением стоимости GPU. Однако после того как CoreWeave превратила кредиты под залог чипов в рабочую бизнес-модель, а затем вышла на громкое IPO, такой формат финансирования стал заметно более распространённым.
«Когда мы финансировали GPU Nvidia как первая группа, которая это сделала, рынок был неэффективным, — сказал Либби TechCrunch. — Мы смогли собрать такую сделку на раннем этапе и получить компенсацию за риск».
Теперь, когда рынок GPU стал более понятным и, возможно, перенасыщенным закупками, Upper90 делает ставку на следующую волну роста ИИ и поддерживает компании вроде General Compute. «Мы считаем, что модели с открытым исходным кодом будут играть важную роль, и в прошлом году искали игрока, который занимается инференсом, — сказал Либби. — Не всем нужен суперкомпьютер, но инференс и ИИ нужны всем».
Эта позиция усиливается на фоне новых раундов у компаний, которые дают доступ к открытым моделям, включая OpenRouter и Fireworks. По информации TechCrunch, такие сделки проходят при очень высоких оценках. Дополнительный интерес поддерживают и новые модели: K3 от Kimi, представленная на этой неделе, показала результаты на бенчмарках по программированию, сопоставимые с последними релизами Anthropic и OpenAI.
Интерес растёт и к новым производителям чипов, включая Groq и Cerebras. На этом фоне важным выглядит доступ General Compute к чипам вне экосистемы Nvidia. Похожую ставку делает и TensorWave, которая строит партнёрство с AMD. Если альтернатив Nvidia станет больше, поставщики вычислительных мощностей без жёсткой привязки к её контрактам могут получить преимущество по цене инференса.
«Есть много чипов, которые начинают масштабироваться, имеют отличную совокупную стоимость владения или работают гораздо быстрее Nvidia, но покупателей для них пока немного, — сказал Пукловски. — Соглашение с Upper90 — это не просто история о том, как стартап получил деньги на вычислительные мощности. Это первый сигнал того, что капитал начинает перестраиваться, а доминирование Nvidia с признаками монополии — ослабевать».
Источник: TechCrunch.
