OpenAI договорилась о сотрудничестве с правительством США, взяв на себя обязательство поставлять свои модели искусственного интеллекта для военных и связанных с безопасностью задач. На этом фоне на поверхность вышли различия в подходах OpenAI и Anthropic к использованию ИИ для вооружений и слежки.
На этой неделе Anthropic была признана риском для цепочки поставок и принудительно исключена из числа поставщиков для государственных структур США. По данным компании, причина в двух принципиальных ограничениях: запрет на использование Claude AI в автономном вооружении и в системах массового наблюдения за гражданами США.
Anthropic заявила в блоге, что стремится сохранять контроль над сценариями применения своих технологий, а не полагаться только на трактовку действующего законодательства, которое само по себе остаётся предметом дискуссий и судебных споров. Компания зафиксировала для себя «красные линии» и отказалась их пересматривать.
На этом фоне глава OpenAI Сэм Альтман публично поддержал сотрудничество с профильными ведомствами США и предложил для этих задач ChatGPT и другие модели OpenAI. Такой подход снимает для правительства США барьеры, которые выставлял Anthropic, и даёт государству значительно больше свободы в выборе сценариев использования ИИ.
В публикации в X Альтман утверждал, что модели OpenAI не будут применяться для массового наблюдения. Однако, как отмечается в материале, сразу после этого представитель правительства США заявил, что системы OpenAI планируется использовать «во всех законных целях». Массовый сбор метаданных о коммуникациях граждан в ряде ситуаций признаётся законным в рамках американского закона Patriot Act, принятого после терактов 11 сентября.
По сути, OpenAI соглашается передать решение о допустимых сценариях применения своих систем государству. В сочетании с отдельными положениями Patriot Act это может открыть путь к широкому использованию ИИ в системах наблюдения, как в отношении граждан США, так и иностранцев, что прямо допускается американским правом.
Новость уже вызвала быстрый негативный отклик в пользовательских сообществах OpenAI и ChatGPT. По сообщениям, в крупных ветках на Reddit с тысячами голосов пользователи пишут, что отказываются от подписки и намерены покинуть сервисы OpenAI.
На фоне этого решения OpenAI продолжает привлекать крупные инвестиции. Последний раунд оценил компанию примерно в 730 млрд долларов. В числе инвесторов — Amazon, SoftBank и NVIDIA. Microsoft заявила, что сохранит партнёрство с OpenAI, хотя в недавнем интервью Financial Times подчеркнула, что параллельно будет развивать и развёртывать собственные модели.
Ситуация с Anthropic и OpenAI разворачивается на фоне общего ослабления ограничений на военное применение ИИ в крупных ИТ-компаниях. По данным новости, Google в прошлом году убрал из внутренних правил прямой запрет на технологии для автономного оружия. В Microsoft допускается участие ИИ в подобных системах при условии, что финальное решение принимает человек. Amazon ограничивается общими формулировками о «ответственном использовании», а Meta активно конкурирует за военные контракты Пентагона. Palantir, как подчёркивается в материале, давно и открыто поддерживает подобные проекты.
Автор отмечает, что современные языковые модели хорошо имитируют человеческий текст, но при этом подвержены галлюцинациям и ошибкам в простейших логических задачах. На этом фоне вызывают вопросы сценарии, где подобные системы могут участвовать в решениях о том, представляет ли человек угрозу национальной безопасности.
Источник: Windows Central (Jez Corden).
*Meta – запрещенная в РФ организация.
