Бизнес ужесточает контроль расходов на ИИ

Компании стали внимательнее смотреть на расходы на ИИ, поскольку стоимость таких систем продолжает расти. На этом фоне бизнесу нужно лучше разбираться в том, как выбирать модели, ограничивать их использование и применять их в задачах, где они действительно дают результат.

По данным СМИ, Microsoft недавно сократила внутренние лицензии на Claude Code. Причиной называют в том числе стратегические соображения, но ещё один фактор — рост затрат. Операционный директор Uber также заявил, что расходы на ИИ всё труднее обосновать, пока фактическую отдачу от инвестиций сложно измерить.

Axios приводит особенно показательный пример: одна неназванная компания, как утверждается, потратила 500 млн долларов за один месяц, потому что для лицензий Claude никто не установил лимиты использования. Корпоративные ИИ-модели часто продвигаются по схеме с фиксированной ценой, однако в таких тарифах обычно есть ограничения по числу запросов к каждой модели.

Один из технических директоров рассказал, что сотрудники используют ИИ-системы даже для проверки погоды. Формально это работает, но обходится заметно дороже обычного поиска. Бывший руководитель ИИ-направления в Microsoft София Веластеги в комментарии Axios сказала, что компании часто отправляют ИИ на задачи, которые никто не хочет делать, вместо работы, которая напрямую приносит выручку.

Эти примеры, по сути, указывают на одну проблему: если ИИ становится частью бизнес-процессов, которые приносят компании деньги, то нужны специалисты, способные управлять такими системами. По этой причине могут стать важными новые роли, например координаторы ИИ-агентов.

Главные источники лишних расходов — неправильное использование и неудачный выбор модели. В первом случае проблема часто связана с плохой настройкой контекста: это ведёт к длинным диалогам и перегруженным окнам контекста. Во втором — компания запускает мощную и дорогую модель для задач, которые могла бы так же решить более дешёвая система.

Авторы материала также отмечают, что генеративный ИИ подходит не для всех задач. Во многих случаях, особенно если речь идёт о больших языковых и reasoning-моделях, обычное программное обеспечение остаётся более уместным вариантом. Умение различать такие сценарии должно стать базовой частью ИИ-компетенций внутри компании.

Недостаток экспертизы влияет не только на расходы, но и на качество результата. В качестве примера приводится недавний случай, когда Copilot в автоматическом режиме не справился с задачей анализа данных и уверенно выдал сильно искажённые ответы. После перехода на thinking-модель результат удалось исправить.

Источник: The Decoder, Axios.

Читать новости ИИ и технологий в Telegram.


Оцените статью
Gimal-Ai