Компания Anthropic отказала некоторым подрядчикам, работающим с федеральными правоохранительными органами США, в использовании своих моделей ИИ Claude для нужд внутреннего наблюдения. Такой запрет вызвал растущее давление со стороны политиков в Вашингтоне, сообщает Semafor.
Ограничения Anthropic затрагивают организации вроде ФБР, Секретной службы США и иммиграционной службы (ICE), где слежка играет заметную роль.
В правилах Anthropic есть формулировка “domestic surveillance”, но точное определение этого понятия компания не дает. Два высокопоставленных чиновника заявили, что подобная размытая политика “допускает широкий или избирательный подход” и может иметь политическую окраску.
Несмотря на эти ограничения, Anthropic продолжает поддерживать контакты с властями США. Модели Claude доступны через Amazon Web Services GovCloud и иногда являются единственными продвинутыми системами, допущенными к работе с засекреченными данными. У компании также есть символический контракт на $1 для предоставления доступа федеральным органам.
Кроме этого, Anthropic сотрудничает с Министерством обороны США, но прямо запрещает использование технологий для разработки оружия.
В отличие от Anthropic, OpenAI разрешает использовать свои ИИ для правоохранительных целей, если слежка санкционирована. В правилах OpenAI речь идет только о запрете “несанкционированного наблюдения”.
