Бывшая исследовательница OpenAI Зои Хитциг (Zoë Hitzig) раскритиковала планы компании по монетизации ChatGPT через рекламу. В колонке для The New York Times она предупреждает, что рекламная платформа на базе чат-бота может использовать самые личные данные пользователей для «турбо-манипулятивных» объявлений и нанести масштабный вред.
По данным статьи, OpenAI, Google и Microsoft ищут устойчивые источники дохода от ИИ. Содержание и обслуживание таких моделей обходится в миллиарды долларов в год, а выручка от них пока ограничена, что усиливает давление со стороны инвесторов. В отличие от Microsoft и Google, OpenAI не владеет собственной облачной инфраструктурой и не имеет сопоставимых корпоративных контрактов, поэтому компания активнее рассматривает рекламу в потребительских продуктах.
Хитциг критикует решение показывать рекламу пользователям бесплатных версий ChatGPT. По её словам, OpenAI «мчится к монетизации», игнорируя потенциальные риски, которые возникают из-за того, насколько откровенно люди общаются с чат-ботом. Пользователи делятся с ChatGPT медицинскими страхами, проблемами в отношениях, религиозными убеждениями и другими личными темами.
«За несколько лет пользователи ChatGPT создали беспрецедентный архив человеческой откровенности, отчасти потому, что верили: перед ними система без скрытых мотивов», — пишет Хитциг. Она отмечает, что реклама, основанная на таком массиве данных, открывает возможность манипулировать людьми на уровне, который мы пока не умеем ни понять, ни контролировать.
По её оценке, ChatGPT может превратиться в одну из самых агрессивных рекламных платформ в истории. Если классические рекламные системы уже умеют точно таргетировать объявления по интересам, то ИИ-ассистент, который ведёт диалог, способен подобрать аргументы под конкретную психологию человека, а также выстраивать доверительные отношения, похожие на дружбу или наставничество.
OpenAI заявляет, что будет придерживаться принципов безопасной рекламы в ChatGPT: объявления должны быть ясно помечены, показываться внизу ответов и не влиять на сами ответы модели. Хитциг допускает, что первые версии рекламного продукта будут соответствовать этим правилам, но считает, что экономические стимулы со временем могут подтолкнуть компанию к их пересмотру.
Автор напоминает, что реклама на Facebook и Google начиналась с относительно незаметных блоков, которые легко было игнорировать или блокировать, но затем превратилась в сложные системы, влияющие на поведение пользователей. Она проводит параллель с возможным эволюционным путём рекламы в ИИ-чат-ботах, которые уже воспринимаются многими как «друг» или доверенное лицо.
Хитциг добавляет, что из OpenAI в последние годы ушло заметное число сотрудников-исследователей. Часть из них публично объясняла свой уход несогласием с текущим курсом компании и утратой первоначальных принципов. Для самой Хитциг запуск рекламной модели ChatGPT стал «последней каплей».
Материал Jez Corden основан на колонке Зои Хитциг в The New York Times и обсуждает её выводы о рисках рекламных моделей на базе ИИ, а также общий вектор монетизации продуктов OpenAI и других технологических компаний.
Источник: The New York Times, Windows Central
