Thinking Machines представила ИИ-модель для диалога

Thinking Machines Lab выпустила research preview своей первой ИИ-модели для голосового взаимодействия. Компания заявляет, что система уходит от стандартной схемы «вопрос — ответ» и обрабатывает аудио, видео и текст параллельно блоками по 200 миллисекунд.

Модель входит в класс, который стартап называет Interaction Models. По замыслу компании, такие системы должны работать с диалогом напрямую, без внешней прослойки из отдельных компонентов, через которые сегодня обычно строятся голосовые сервисы.

Как поясняет Thinking Machines Lab, в реальном времени такие решения, как GPT-Realtime или Gemini Live, постоянно принимают аудио, но сама языковая модель не получает этот поток напрямую. Перед ней работает набор отдельных модулей, например детектор голосовой активности, который определяет, когда пользователь закончил реплику. После этого модель получает готовую фразу и генерирует полный ответ.

Пока система говорит, восприятие останавливается: новая информация не поступает, если только ответ не прервут. По версии компании, из-за этого плохо работают ключевые сценарии живого разговора: модель не может вовремя вмешаться, отреагировать на визуальный сигнал или говорить одновременно с пользователем, что важно, например, для синхронного перевода.

Thinking Machines ссылается на идею Bitter Lesson Рича Саттона и утверждает, что такие вручную собранные схемы со временем будут уступать более общим возможностям самих моделей.

Вместо этого Interaction Models обрабатывают поток аудио и видео напрямую, без заранее нарезанных реплик. Компания сравнивает свой подход с full-duplex моделями вроде Moshi и Nemotron VoiceChat, которые тоже работают с чередованием входа и выхода, но больше сосредоточены на задержке, чем на результатах тестов интеллекта.

Ключевым элементом архитектуры стали time-aligned micro-turns. Модель непрерывно принимает 200 миллисекунд входных данных и генерирует 200 миллисекунд ответа, а оба потока токенов идут вперемежку. Ввод и вывод больше не разделены по очереди и работают по одному временному циклу.

По заявлению компании, это убирает искусственные границы между репликами и позволяет модели самой решать, когда молчать, когда вступать в разговор и когда говорить параллельно с пользователем. Аудио и изображения подаются в трансформер почти без предварительной обработки, что снижает задержку, хотя может ограничивать работу с мелкими визуальными деталями, например с текстом на изображении.

Для задач, которым нужно больше времени, компания использует вторую фоновую модель. Если ответ нужно выдавать каждые 200 миллисекунд, основная система не может одновременно тратить минуты на рассуждение, поиск в интернете или работу с инструментами, поэтому эти функции вынесены в асинхронный контур.

Обе модели используют общий контекст диалога. Interaction Model передаёт ей длинные задачи, продолжает разговор и затем встраивает полученные результаты в беседу в подходящий момент, а не как резкое переключение темы.

Первая модель компании называется TML-Interaction-Small. Это mixture-of-experts-модель на 276 млрд параметров, из которых активны 12 млрд.

На бенчмарке FD-bench v1.5, который оценивает качество взаимодействия в сценариях с прерываниями, короткими подтверждениями и фоновым шумом, модель, по данным Thinking Machines, заметно обходит OpenAI GPT-Realtime-2 и Google Gemini-3.1-flash-live.

Задержка ответа составляет 0,40 секунды. Для сравнения, у GPT-Realtime-2 минимальный показатель — 1,18 секунды, у Gemini — 0,57 секунды.

На Audio MultiChallenge, который измеряет интеллект модели и следование инструкциям, система набрала 43,4%. Это выше быстрых версий конкурентов, но ниже GPT-Realtime-2 в режиме xhigh thinking, где результат достигает 48,5%.

На собственных тестах компании для оценки чувства времени и проактивной работы с видео — TimeSpeak, CueSpeak, RepCount-A, ProactiveVideoQA и Charades — Thinking Machines утверждает, что существующие модели не показывают полезного результата. По её данным, протестированные конкуренты либо молчат, либо отвечают неверно.

Thinking Machines Lab основали в феврале 2025 года Мира Мурати и бывшие исследователи OpenAI. В июле 2025 года стартап привлёк $2 млрд в seed-раунде при оценке $12 млрд, не имея готового продукта.

По данным материала, следующий раунд при оценке около $50 млрд к концу 2025 года закрыть не удалось, а часть ключевых сотрудников позже покинула компанию. Interaction Model стала первой внутренней ИИ-разработкой, которая должна подтвердить заявление Мурати о том, что она способна построить конкурента OpenAI, Anthropic и Google DeepMind.

До этого компания выпустила Tinker — инструмент для дообучения открытых моделей через LoRA без необходимости работать с распределённым обучением.

Источник: The Decoder, по информации Thinking Machines Lab.

Читать новости ИИ и технологий в Telegram.


Оцените статью
Gimal-Ai