Руководство Salesforce отмечает, что доверие к большим языковым моделям (LLM) снизилось за последний год. По данным The Information, компания делает ставку на простую, основанную на правилах, автоматизацию в продукте Agentforce и сокращает использование генеративного ИИ для некоторых задач.
Санджна Парулекар, старший вице-президент по продуктовому маркетингу Salesforce, объясняет: “Год назад у всех было больше уверенности в LLM”. Она считает, что причиной стали случайные ответы моделей и их склонность игнорировать конкретные инструкции.
Еще одной проблемой стали случаи “drift” – когда ИИ теряет фокус из-за отвлекающих запросов пользователей. Внутренние исследования Salesforce подтверждают, что этот эффект по-прежнему остается заметным препятствием.
Представитель Salesforce заявил, что компания не отказывается от LLM, а лишь выбирает сценарии использования более обдуманно. Agentforce приносит компании более 500 миллионов долларов в год и позволяет задавать четкие правила, жестко ограничивающие возможности ИИ.
