Amazon сообщил Sky News, что контролирует публикации с помощью автоматической и ручной модерации. Книги, нарушающие правила, удаляются независимо от того, созданы ли они с помощью ИИ. Компания заявляет, что постоянно обновляет свои защитные меры по мере развития ИИ. Авторы Kindle Direct Publishing обязаны указывать, был ли использован ИИ, но эта информация не раскрывается покупателям, создавая пробел в прозрачности.
Sky News отмечает, что случаи, подобные истории с доктором Эриком Тополом, встречаются часто, особенно в спорте. После крупных событий, например, женского чемпионата Европы, появляются десятки мини-биографий с фейковыми обложками и почти пустым содержанием. Указанные авторы не существуют в интернете, но выпускают множество подобных книг сразу.
Ассоциация издателей просит четко отмечать ИИ-контент и предупреждает о путанице среди покупателей. Глава организации Дэн Конуэй говорит: «Читателю почти невозможно отличить хорошо проработанную книгу от той, что сделана на скорую руку искусственным интеллектом», и предупреждает о «перенасыщении информацией», когда тысячи ИИ-книг вытесняют настоящие издания.
Многие компании в сфере ИИ утверждают, что использование авторских материалов для обучения — это добросовестное использование, потому что итоговые модели отличаются и не конкурируют напрямую с оригиналами.
Мошенники на Amazon действуют куда проще: они продают книги, якобы написанные Эриком Тополом, которые полностью выдуманы. Доктор Топол — известный ученый и врач — сообщает о десятках поддельных кулинарных и медицинских книг с его именем и фотографией без какого-либо согласия. По его словам, это мошенничество. Он не раз жаловался на эти ISBN, но результата не было — поддержка Amazon присылает только стандартные ответы. Один из покупателей поделился, что купил книгу, доверяя имени Топола, и был разочарован содержанием.
Хотя проблема ИИ-книг с фейковыми авторами на Amazon существует давно, масштаб истории Топола показал, насколько уже выросла угроза. Инструменты, вроде ChatGPT, и простота самостоятельной публикации позволяют быстро заваливать маркетплейс массовыми подделками от имени известных людей.
Amazon ответил ограничением: теперь за день можно опубликовать не более трех книг и нужно указывать, использовался ли искусственный интеллект для текста, изображений или перевода. Но эту информацию клиенты не видят. Компания также усилила контроль над так называемыми саммари и рабочими тетрадями, которые часто копируют большие части чужих книг. Однако случай Топола показывает: фейковые ИИ-книги продолжают проскакивать и подрывать доверие к настоящим экспертам.
ИИ сейчас часто используется для получения рекламных доходов: создают якобы автографы знаменитостей, рассылки с персональными предложениями и даже фишинговые атаки. Чаще всего это связано с эмоциональными фейковыми изображениями и текстами на острые, политические темы или созданием поддельных новостей.
