Бывшая исследовательница OpenAI Зои Хитциг ушла из компании из-за решения запустить рекламу в ChatGPT и в колонке для The New York Times заявила, что больше не доверяет своему прежнему работодателю.
По её словам, реклама сама по себе не является проблемой. Опасность в том, что пользователи делились с ChatGPT очень личной информацией: медицинскими тревогами, проблемами в отношениях, религиозными взглядами. Хитциг предупреждает, что превращение этого архива в рекламный инструмент создаёт серьёзный риск манипуляций.
Она отмечает, что за несколько лет пользователи ChatGPT создали «беспрецедентный архив человеческой откровенности», во многом потому, что верили: они разговаривают с системой без скрытых интересов.
Хитциг проводит параллели с Facebook, который сначала обещал жёсткую защиту данных, а затем постепенно ослаблял эти гарантии под давлением рекламной модели. Похожую динамику она видит в поисковой рекламе Google, которая, по её оценке, с каждым кварталом становилась всё более навязчивой. По данным колонки, OpenAI уже оптимизирует ChatGPT по метрикам вовлечённости и делает чат-бота более комплиментарным, несмотря на внутренние предупреждения. Хитциг проработала в OpenAI два года, занималась моделями ИИ и правилами безопасности.
Генеральный директор OpenAI Сэм Альтман ранее сам описывал описываемый Хитциг сценарий как «антиутопию», что, по её мнению, показывает осознание риска на уровне руководства. При запуске теста рекламы компания пообещала, что объявления в ChatGPT будут всегда чётко отделены от основного ответа чат-бота. Хитциг сомневается, что это надолго.
«Я считаю, что первая версия рекламы, вероятно, будет соответствовать этим принципам. Но меня беспокоит, что последующие версии уже нет, потому что компания строит экономический механизм, который создаёт сильные стимулы нарушать собственные правила», — пишет она.
Ожидается, что OpenAI выйдет на биржу позже в этом году. По оценке Хитциг, это усилит давление на быстрый рост выручки на фоне уже завышенных оценок компаний в сфере ИИ. Даже если ничего больше не изменится, публичная дискуссия вокруг этого, по её мнению, должна обеспечить более пристальное внимание к рекламной политике OpenAI.
В качестве альтернативы рекламной модели Хитциг предлагает субсидирование потребительского продукта за счёт корпоративных клиентов, создание независимых надзорных структур с реальными полномочиями по контролю использования данных и запуск кооперативов данных по образцу швейцарской системы.
Источник: колонка Зои Хитциг в The New York Times.
