Глава Microsoft Сатья Наделла предупредил компании о рисках при работе с закрытыми ИИ-моделями. В блоге он написал, что клиенты таких сервисов «платят за интеллект дважды»: деньгами за токены и собственными данными, которые передают моделям в процессе работы.
По словам Наделлы, компании раскрывают поставщикам ИИ свои самые чувствительные бизнес-данные. Речь идет о промптах, действиях агентов, рабочих инструментах и правках, которые пользователи вносят в ответы модели. Он считает, что так разработчики моделей получают доступ к внутреннему опыту компаний и в будущем могут использовать эти знания в своих интересах.
«Вы по сути платите за интеллект дважды: один раз деньгами, а второй — чем-то еще более ценным, своей закрытой экспертизой, которую нужно раскрыть, чтобы этот интеллект был полезен. Чем лучше вы хотите, чтобы модель работала, тем больше таких знаний вам приходится ей передавать», — пишет Сатья Наделла.
Отдельно он отметил, что предприятия фактически обучают модели особенностям своего бизнеса. «Модели учатся на “выхлопе”: промптах, которые пишут люди, инструментах, которые используют агенты, и особенно на исправлениях, которые люди вносят, когда модель ошибается. Каждое исправление превращается в накопленное знание компании», — написал он.
Наделла также раскритиковал ограничения на дистилляцию моделей. Под дистилляцией обычно понимают подход, при котором ответы одной модели используют для обучения другой, часто более дешевой. По его мнению, если ИИ-компании могут обучать модели на открытых данных из интернета, то бизнес тоже должен иметь право изучать и «дистиллировать» сами модели.
«Хотя право поставщиков моделей на добросовестное использование публичных данных для обучения нужно для инноваций, мне кажется ироничным, что затем они вводят жесткие ограничения на дистилляцию», — написал Наделла.
В качестве решения он предлагает компаниям сохранять контроль над своими данными, включая промпты и обратную связь, и строить собственные среды обучения в облаке. Еще одно предложение — использовать оркестрационные слои, чтобы можно было быстро переключаться между моделями разных поставщиков, а не зависеть от одного сервиса.
Хотя Наделла прямо не говорит об open source, этот вывод следует из текста. Как пишет TechCrunch, крупные компании уже переводят часть ИИ-нагрузки на открытые модели, развернутые у себя в инфраструктуре. Такой подход позволяет лучше контролировать данные и снижать расходы.
Основатель и глава Solo.io Идит Левин говорит, что видит этот переход у своих клиентов. После экспериментов с закрытыми моделями компании начинают спрашивать: «Могу ли я взять open-source модель и запустить ее у себя? Она даст почти 90% того, что делает большая модель, и будет стоить намного дешевле». По словам Левин, бизнес понимает это и ценит возможность самостоятельно контролировать систему.
Solo.io выпускает ПО для сетевого взаимодействия и безопасности, которое помогает компаниям управлять ИИ-системами. В прошлом году технологию компании выбрали для проекта Agentgateway от Linux Foundation. Среди клиентов Solo.io — T-Mobile, ADP и SAP.
По данным TechCrunch, рост интереса к открытым моделям видят также Vercel и OpenRouter. В прошлом месяце 29% всего трафика, проходившего через шлюз Vercel, пришлось на открытые модели.
Наделла завершил свою мысль так: «Потребляя интеллект, вы создаете интеллект. И то, что вы создаете, должно принадлежать вам».
Источник: TechCrunch, блог Microsoft.
