Anthropic начала добавлять в ответы Claude невидимые водяные знаки — скрытый код в текстах, который показывает, что материал был создан ИИ.
Компания ввела эту меру для соответствия требованиям EU AI Act. Закон о регулировании ИИ в Евросоюзе требует помечать контент, созданный или отредактированный ИИ, так, чтобы это могли распознавать компьютерные системы.
Решение вызвало споры у части пользователей. Как пишет материал, на Reddit появились жалобы на новую политику, хотя мнения в обсуждениях разделились.
Один из пользователей под ником visionode заявил, что система водяных знаков якобы ставит обычных пользователей в невыгодное положение. По его версии, опытные пользователи смогут скрыть следы применения ИИ, если перепишут текст или пропустят его через другие сервисы, а обычные пользователи будут легко выявляться.
Он привёл такие примеры: «Кого поймают? Вас. Студента, который использовал Claude, чтобы перестроить абзац. Журналиста, который попросил ИИ пересказать стенограмму на двести страниц. Писателя, который столкнулся с творческим ступором и попросил синонимы. Эти люди выходят из процесса с цифровой татуировкой на лбу».
В публикации отмечается, что эти примеры вызвали возражения. В частности, использование готового ИИ-резюме стенограммы в статье без переработки названо неэтичным. То же касается студента, который вставляет ответ Claude в эссе без изменений.
Часть пользователей Reddit отреагировала на жалобы резко. Один комментатор написал: «Посмотрите на этого парня». Другой предложил автору поста «сделать глубокий вдох».
Критику высказывали и другие пользователи. Один из них назвал водяные знаки «неэтичными» и «отвратительными» и заявил, что основную часть работы выполнил сам, а Claude был лишь инструментом.
По его словам: «Я дал инструкции, контекст, принял решения и внёс бесчисленные правки, Claude был инструментом. Если Claude начнёт ставить водяные знаки на код или что-либо ещё, что именно он тогда пытается себе приписать?»
На это другие участники обсуждения ответили, что речь идёт не о присвоении авторства. Один пользователь написал: «Дело не в том, что он пытается приписать себе заслуги. Речь о возможности выявлять материалы, созданные ИИ, из-за рисков, которые такие материалы могут нести в разных ситуациях».
Ещё один комментатор добавил: «Этот парень даже пожаловаться на Claude не смог без помощи Claude».
Были и более сдержанные возражения. Один из пользователей увидел в решении Anthropic противоречие: по его мнению, странно помечать редакторский текст, если сами ИИ-модели обучались на работах других людей. Он написал: «Мне кажется, это очень мрачный шаг. Я не использую Claude для написания текстов, но сама идея ИИ, который ставит водяные знаки на вашу работу, пугающе иронична, если вспомнить, откуда многие передовые модели получили свои данные для обучения».
В то же время заметная часть пользователей поддержала новый подход. Один из участников другого обсуждения написал: «Здесь буквально нет убедительного довода, почему это плохая идея. Единственная причина быть против — желание вводить людей в заблуждение».
Источник: материал с пересказом обсуждений на Reddit и реакции пользователей на политику Anthropic.
