Nvidia анонсировала новое поколение GPU под названием Rubin CPX, предназначенное для ресурсоёмкой фазы анализа в AI-моделях. Такая стратегия известна как split inference. Об этом компания сообщила после новых рекордных результатов архитектуры Blackwell Ultra, где применяется похожий подход на уровне программного обеспечения.
Когда AI-модель получает сложную задачу, например, резюмировать длинную книгу, она сначала выполняет вычислительно затратную “контекстную фазу”. Только потом начинается “фаза генерации”, где текст создаётся по частям. Nvidia утверждает, что этим этапам требуются разные типы оборудования, и Rubin CPX — новый процессор для этапа анализа.
Официально заявлено, что Rubin CPX — это продукт на базе Rubin, запланированный к выпуску в 2025 году, а старт продаж ожидается в конце 2026 года. Новинка выйдет как плата расширения или как отдельный сервер для дата-центров.
Nvidia отмечает, что Rubin CPX рассчитан на задачи с необходимостью обрабатывать огромные объёмы данных одновременно. К примеру, это анализ миллионов токенов сразу, обработка больших кодовых проектов или генерация видео. Гендиректор Дженсен Хуанг подчеркнул: «CPX — первый CUDA GPU, созданный специально для AI с огромным контекстом.»
Техническая база решения — стратегия «разделённого инференса» от Nvidia. Компания объясняет: вычислительная нагрузка фазы анализа требует иного оборудования, чем фаза генерации, где главное — память. Rubin CPX будет использовать монолитный кристалл, 30 петаFLOPs вычислений NVFP4, 128 ГБ памяти GDDR7, а ускорение attention-слоя будет втрое выше, чем у Blackwell.
Для подтверждения верности выбранного курса Nvidia приводит свежие данные бенчмарков. На тестах MLPerf Inference v5.1 Blackwell Ultra впервые опередил стандартный Blackwell по производительности на 45% на GPU. На новом тесте DeepSeek-R1 скорость в пять раз выше, чем у Hopper.
Компания подчёркивает, что эти результаты получены уже с помощью программного разделения инференса. Например, для модели Llama 3.1 405B «disaggregated serving» позволил разделить этапы анализа и генерации между разными GPU. Система Nvidia Dynamo Framework увеличила пропускную способность на каждую видеокарту почти в полтора раза. В Rubin CPX этот подход будет реализован аппаратно. Технологию уже тестируют такие компании, как Cursor (редактор кода), Runway (AI для видео) и Magic (AI-агенты).
