Компания Runware, которая занимается ИИ-инфраструктурой, объявила о запуске модульного дата-центра Sonic Inference Pod. Это единый транспортируемый блок для инференса, который компания позиционирует как более гибкий вариант вычислительных мощностей рядом с крупными проектами гиперскейлеров.
По заявлению Runware, Pod обеспечивает инференс с более высоким качеством и меньшей стоимостью, чем другие бессерверные платформы инференса и GPU-облака. За счёт модульной конструкции компания может быстро наращивать мощности, добавляя новые блоки, а не расширяя стационарный дата-центр.
Сооснователь и гендиректор Runware Флавиу Рэдулеску заявил TechCrunch, что распределённые вычисления, размещённые ближе к конечным пользователям, дадут более быстрый отклик и окажутся выигрышнее в долгосрочной перспективе. По его словам, система Runware также позволяет быстро масштабировать мощности, разворачивать узлы в любом месте, где есть электропитание, и оперативно переходить на новое оборудование.
В компании добавили, что Pod не использует воду для охлаждения. Вместо этого применяется замкнутая система охлаждения, а сам модуль можно собрать за несколько дней, тогда как строительство традиционного дата-центра занимает месяцы или даже годы.
«Спрос на инференс растёт быстрее, чем строятся новые площадки», — сказал Рэдулеску. По его словам, цель Runware — стать инфраструктурной основой для ИИ-моделей и давать мощности, которые успевают за спросом, а не ограничивают его.
Сейчас Runware разворачивает 10 Pod в США, Европе и Азиатско-Тихоокеанском регионе. Как сообщил Рэдулеску, компания уже оказывает услуги инференса нескольким клиентам, включая Higgsfield AI и Wix, а также располагает 160 площадками, где можно размещать такие модули.
В декабре Runware объявила о раунде Series A на $50 млн. Эти средства предназначены для развития инфраструктуры, которая нужна компаниям для генерации изображений. В Runware считают развитие Pod частью основной задачи компании — предоставлять инференс как сервис, а не продвигать один продукт.
На фоне этого крупные ИИ-компании продолжают строить собственные дата-центры в США. В материале отмечается, что OpenAI, по данным СМИ, близка к соглашению на $500 млрд, которое предполагает строительство дата-центра в Огайо. Однако Рэдулеску не считает такие проекты угрозой для Sonic Inference Pod и называет гибкость ключевым отличием решения Runware.
«Каждый Pod работает как часть единой сети, поэтому запросы направляются туда, где есть свободная мощность и где узел ближе к пользователю. Если один Pod отключается, трафик переходит на другой», — сказал он. По его словам, в таком случае сбой затрагивает один модуль, а не весь стационарный объект. Клиенты, которым нужно выделенное оборудование, могут получить Pod целиком.
Рэдулеску также считает, что другим компаниям будет непросто воспроизвести такую систему своими силами. Он отметил, что разработка аппаратной части идёт медленно, а специалистов, которые умеют создавать и обслуживать такие технологии, немного.
«Ошибка в проектировании печатной платы отбрасывает работу на месяцы из-за переработки, симуляции, производства, тестирования и поставки», — сказал он. «Для каждого такого решения нужен человек, который точно понимает, что делает каждый компонент и что перестанет работать, если его убрать».
При этом строительство ИИ-дата-центров остаётся спорной темой из-за высокого потребления ресурсов. В материале говорится, что жители районов, где уже работают такие объекты, сообщают о росте коммунальных расходов. Runware рассчитывает со временем перейти на возобновляемые источники энергии и меньше зависеть от ресурсов, нужных местным сообществам, но признаёт, что это задача не сегодняшнего дня.
Рэдулеску считает, что энергопотребление ИИ всё равно будет расти из-за спроса на инференс, независимо от поставщика. По его словам, Runware сосредоточена на том, как именно этот спрос будет покрываться: без потерь при передаче энергии, без воды в охлаждении и с использованием уже доступной мощности, а не за счёт строительства новых сетевых мощностей.
Источник: TechCrunch.
