Бывший CTO OpenAI представила Tinker — API для тонкой настройки LLM

Стартап Thinking Machines, основанный бывшим техническим директором OpenAI Мира Муратти, представил свой первый продукт — Tinker, API для обучения языковых моделей.

Tinker упрощает создание и доработку open source-моделей даже без доступа к крупным вычислительным ресурсам. Сервис предназначен для исследователей и разработчиков, которые хотят обучать или дообучать открытые модели без сложной настройки инфраструктуры.

По словам компании, цель — дать “больше возможностей людям проводить исследования с современными моделями и настраивать их под свои задачи.” На старте Tinker поддерживает несколько open-weight моделей от Meta (Llama) и Alibaba (Qwen), включая крупные модели, такие как Qwen-235B-A22B. Пользователь может легко переключаться между моделями, просто изменив одну строку в коде.

Tinker работает как управляющий сервис на собственных вычислительных кластерах компании. Обучение можно запускать сразу, все задачи по управлению ресурсами, устойчивости и планированию берет на себя платформа. Технология LoRA (Low-Rank Adaptation) позволяет выполнять параллельное дообучение сразу нескольких моделей на одном и том же оборудовании, снижая издержки на расчетные мощности.

Платформа Tinker сейчас доступна в закрытой бете. Желающие могут записаться в лист ожидания. В период беты сервис бесплатный, далее планируется оплата по использованию.

Разработчикам также доступна библиотека Tinker Cookbook — это открытый набор стандартных пост-обучающих методов для Tinker API, который помогает избегать типичных ошибок при дообучении моделей.

Муратти покинула OpenAI осенью 2024 года после сообщений о внутренних разногласиях. Запуск API подчеркивает, что она не считает модели OpenAI непобедимыми и не ожидает искусственного сверхразума в ближайшее время.

Вместе с бывшими коллегами из OpenAI, такими как сооснователь Джон Шульман, исследователи Барретт Зоф и Люк Мец, Муратти считает, что открытые модели с дообучением сейчас дают больше гибкости и пользы, чем закрытые решения вроде GPT-5. Это объясняет работу над специализированными инструментами для дообучения.

Источник

*Meta — запрещенная в РФ организация.

Читать новости ИИ и технологий в Telegram.


Оцените статью
Gimal-Ai