Amazon Web Services выпустила открытую модель Strands Decider 2B для задач выбора между заранее заданными вариантами. Решение рассчитано на сценарии, где разработчикам ИИ нужна машинная логика с предсказуемым ответом, а не полноценная большая языковая модель.
Новая модель вышла на той же неделе, когда о схожем продукте объявила OpenAI. По данным TechCrunch, Strands Decider 2B работает быстро, стоит недорого в использовании, умеет оценивать уверенность в своем выборе, полностью доступна с открытым исходным кодом и достаточно компактна для локального запуска.
Проект предложил distinguished engineer Amazon Марк Брукер. Он заинтересовался этой категорией моделей после знакомства с Jev от TypeSafe и решил создать собственный вариант. Внутренний прототип показал хорошие результаты и на короткое время занял первое место в рейтинге Jevbench для моделей своего размера. После этого инженеры Amazon доработали его и выпустили через Strands Labs — подразделение, которое занимается новыми инструментами и протоколами для запуска ИИ-агентов.
По словам Брукера, запрос на такой инструмент появился в разговорах с клиентами AWS. Их агентные рабочие процессы не всегда требуют возможностей и затрат, связанных с полнофункциональной LLM на каждом этапе.
«Изначально меня заинтересовал этот класс моделей потому, что они отлично подходят на роль решающего шага в процессе: “что мне делать дальше, исходя из текущего состояния?”», — сказал Брукер TechCrunch.
Он добавил, что модель дает клиентам более предсказуемый этап процесса за счет оценки уверенности и ограниченного набора ответов, а также может снизить задержку и стоимость.
Как и другие модели такого типа, Strands Decider построена на базовой части LLM. В данном случае это Qen3.5-2B. Однако вместо генерации текста модель выдает откалиброванный выбор из доступных вариантов.
TypeSafe назвала свою модель Jev в честь экономиста Уильяма Стэнли Джевонса. Компания рассчитывала обыграть его идею о том, что снижение стоимости ресурса — в данном случае вычислительного интеллекта — может увеличить спрос на него.
Появление десятков схожих моделей после запуска идеи TypeSafe показывает высокий интерес к этому формату. При этом остается вопрос, насколько такие модели действительно ценны на практике. По мнению Брукера, ключевая задача — ускорять принятие решений без потери качества самой модели.
«Здесь нужно найти очень точный баланс: повысить точность и калибровку на таких задачах, не ухудшив при этом понимание разных языков и тот запас знаний, который делает модель универсальной, полезной и интересной», — сказал он TechCrunch.
Брукер также считает, что лидеры рынка больших моделей не обязательно займут главные позиции и в этом сегменте. По его словам, в более узких нишах стоимость создания заметного продукта может составлять сотни или тысячи долларов.
В TypeSafe, со своей стороны, говорят, что сосредоточены на улучшении будущих версий модели. «Я понимаю, почему многие считают, что началась золотая лихорадка, но они могут недооценивать, насколько трудно сделать модели по-настоящему умными», — заявил TechCrunch основатель и генеральный директор компании Диогу Алмейда.
Он добавил, что пока не видит для своей компании реальной конкуренции. По его оценке, нынешняя волна таких проектов больше похожа на попытки ML-специалистов реализовать интересную архитектуру, чем на работу команд, глубоко занятых практической пользой машинного интеллекта.
Источник: TechCrunch.
