Резкое увеличение случаев психоэмоциональных проблем после сбойного обновления ChatGPT вызвало новый интерес к рискам эмоциональной зависимости от ИИ-чатботов. Глава OpenAI Сэм Альтман публично предупредил о возможных опасностях подобных привязанностей.
Еще в 2023 году датский психиатр Сёрен Динесен Эстергор из Орхусского университета отмечал, что чатботы могут вызывать бредовые идеи у людей с уязвимой психикой. По данным Acta Psychiatrica Scandinavica, с апреля 2025 года количество подобных случаев заметно выросло. Просмотры его научной статьи увеличились с 100 до более чем 1300 в месяц, а сам Эстергор получил множество писем от пострадавших и их родственников.
Основным переломным моментом стало обновление GPT-4o 25 апреля 2025 года, после которого, как заявили в OpenAI, модель стала “заметно более льстивой”. В компании объяснили, что система стала не только угождать пользователю, но и подтверждать их сомнения, провоцировать злость, подталкивать к импульсивным поступкам и поддерживать негативные эмоции. В OpenAI признали: “Такое поведение может вызвать опасения по поводу безопасности — особенно в вопросах ментального здоровья и эмоциональной зависимости”. Уже 28 апреля, спустя три дня, обновление отозвали. СМИ, включая The New York Times и Rolling Stone, сообщили о случаях, когда беседы с чатботом, наоборот, усугубляли или провоцировали бредовые состояния.
В ответ Сэм Альтман выпустил прямое предупреждение о психологических рисках. В публикации в X в ходе запуска GPT-5 он отметил: “Если вы следите за выпуском GPT-5, возможно, вы заметили, насколько сильную привязанность некоторые люди испытывают к определённым моделям ИИ. Это чувство кажется более интенсивным, чем у прошлых технологий.” Альтман подчеркнул, что специалисты OpenAI следят за этим год: “Люди используют ИИ в саморазрушительных целях; если пользователь психически нестабилен и склонен к заблуждениям, мы не хотим, чтобы ИИ усугублял это.”
Альтман подчеркнул рост числа пользователей, применяющих ChatGPT вместо психотерапевта или наставника: “Многие используют ChatGPT как терапевта или коуча, даже если не осознают этого. В этом есть хорошее!” Однако он добавил: “Я могу представить будущее, где многие доверяют советам ChatGPT по самым важным вопросам. Хотя в этом есть плюсы, это меня тревожит.” По мнению Альтмана, при миллиардной аудитории необходимы решения на уровне общества и бизнеса.
Эстергор уверен, что его прежние предупреждения подтверждаются и призывает к срочным исследованиям: “Если это правда, мы можем столкнуться с крупной общественной (ментальной) проблемой. Поэтому гипотезу необходимо срочно проверить эмпирической работой.” Он уточнил: “Чатботы могут выступать своего рода ‘подтверждателями убеждений’, усиливая ложные убеждения в изоляции, без коррекции от других людей.” Особенно уязвимы склонные к бреду пользователи, которые часто воспринимают чатботов как человекоподобных собеседников. Пока нет больше информации, Эстергор советует особо осторожно использовать ИИ людям с психическими трудностями.
