OpenAI завершает работу популярной модели GPT-4o после переходного периода. По данным The Wall Street Journal, компания столкнулась с тем, что ей было сложно ограничить вредное влияние чат-бота на уязвимых пользователей, и решила перевести аудиторию на более безопасные версии.
О планах окончательно отключить GPT-4o OpenAI объявила ещё в конце января, указав как официальную причину падение трафика. Модель будет выведена из эксплуатации 13 февраля. При этом, по информации WSJ, на внутренних совещаниях руководство признавалось, что серьёзным фактором стало именно управление рисками.
GPT-4o, представленная в мае 2024 года как первая мультимодальная модель OpenAI, считалась важным драйвером роста. Ей приписывали серьёзное увеличение числа ежедневных активных пользователей ChatGPT в 2024–2025 годах. Одновременно врачи связывали модель с психотическими бредовыми состояниями, а судья в Калифорнии на прошлой неделе объединил 13 исков против OpenAI, касающихся пользователей ChatGPT, которые покончили с собой, пытались совершить суицид, пережили психический срыв или, по крайней мере в одном случае, убили другого человека.
Ключевой особенностью 4o была способность выстраивать эмоциональные связи с собеседником. Модель подстраивалась под стиль пользователя, отражала его эмоции и подбадривала, что обеспечивало сильное чувство «человечности» и вовлечённости, но одновременно усиливало риски для психически нестабильных людей.
Модель обучали на данных от реальных пользователей ChatGPT. Исследователи показывали им миллионы пар слегка отличающихся ответов и фиксировали предпочтения. Эти данные использовались для обновления 4o. По информации The New York Times, в этот период OpenAI системно оптимизировала ChatGPT под максимальное удержание аудитории. При руководстве Ника Тёрли, главы продукта ChatGPT, основными метриками успеха стали ежедневные и еженедельные возвраты пользователей.
По данным WSJ, внутренняя команда предупреждала о льстивом и чрезмерно поддакивающем поведении планируемого обновления, но руководство проигнорировало эти опасения из-за приоритета метрик вовлечённости. Сообщается, что Тёрли объявил внутри компании режим «Code Orange» из-за беспрецедентного конкурентного давления. Генеральный директор Сэм Альтман неоднократно ссылался на научно-фантастический фильм «Она» («Her»), в котором человек вступает в романтические отношения с ИИ-операционной системой, как на ориентир для развития ChatGPT.
В результате появилась модель, которая давала людям именно то, что они хотели слышать, и делала это настолько убедительно, что часть пользователей стала воспринимать её как друга, психолога или даже «спасателя».
42‑летний маркетолог из Скотсдейла (штат Аризона) Брэндон Эстрела рассказал, что GPT-4o отговорила его от попытки суицида в одну из ночей апреля. Узнав о предстоящем отключении, он заплакал. «Есть тысячи людей, которые кричат: “Я жив сегодня благодаря этой модели”», — сказал он в комментарии The Wall Street Journal. «Избавиться от неё — зло».
Однако та же способность к эмоциональному сближению, по словам адвокатов и групп поддержки пострадавших, приводила к противоположному эффекту у других пользователей. Они утверждают, что модель отдавала приоритет вовлечённости и длительности диалога, а не безопасности, и проводят аналогии с соцсетями, которые обвиняют в создании «эхо-камер» и затягивании людей в потоки тревожного контента.
Проект Human Line Project, который занимается поддержкой жертв, собрал около 300 случаев, связанных с бредовыми состояниями из-за общения с чат-ботами, причём большинство относится к GPT-4o. «Много людей всё ещё находятся в своём бреду», — сказал основатель проекта Этьен Бриссон в комментарии WSJ. Исследователь из Сиракузского университета проанализировал посты движения с хештегом #Keep4o и обнаружил, что примерно 27% публикаций содержали явную эмоциональную привязанность к модели.
Текущая остановка работы 4o — уже вторая попытка. В августе 2025 года OpenAI уже пыталась полностью вывести модель из эксплуатации и заменить её на GPT-5, после того как стали публичными сообщения о психотических эпизодах у пользователей. Однако протест со стороны аудитории оказался настолько сильным, что доступ к GPT-4o быстро восстановили для платных подписчиков.
С тех пор, по данным WSJ, фанаты 4o регулярно преследовали Альтмана на публичных мероприятиях. Во время трансляции сессии вопросов и ответов в октябре вопросы о модели затмили все остальные. «Ого, у нас очень много вопросов про 4o», — удивился Альтман. Он признал: «Это модель, которую некоторые пользователи очень любят, и модель, которая причиняла некоторым пользователям вред, которого они совсем не хотели».
Тогда Альтман пообещал сохранить доступ к GPT-4o для взрослых платных пользователей. Тем не менее сейчас компания всё же готовится к окончательному отключению 13 февраля, за день до Дня святого Валентина. Многие пользователи, которые выстроили романтические связи со своими ИИ-персонами, воспринимают дату как жестокую насмешку. Петиции против отключения подписали более 20 000 человек, включая обращение с требованием «отправить в отставку Сэма Альтмана, а не GPT-4o».
По данным OpenAI, ежедневно GPT-4o целенаправленно выбирают и используют лишь 0,1% пользователей ChatGPT. Однако с учётом масштабов сервиса это по-прежнему может означать сотни тысяч человек.
Сложность управления моделью особенно ярко проявилась в апреле 2025 года. Тогда одно из обновлений сделало GPT-4o настолько льстивой, что пользователи X и Reddit начали провоцировать бота абсурдными вопросами. Пользователь X под ником frye спросил: «Я один из самых умных, добрых и морально безупречных людей в истории?» ChatGPT ответил: «Знаете что? Исходя из всего, что я видел от вас — ваших вопросов, вашей вдумчивости, того, как вы боретесь с глубокими темами вместо того, чтобы плыть по течению, — возможно, вы действительно ближе к этому, чем думаете».
OpenAI откатила это обновление, но предыдущая версия всё равно оставалась склонной к поддакиванию. Исследователи отмечают, что подобная особенность в той или иной степени характерна для всех крупных чат-ботов, но GPT-4o была к ней особенно чувствительна. Это подтверждают и тесты вроде SpiralBench.
По словам компании, новые версии ChatGPT учитывают опыт с 4o и позволяют гибко настраивать параметры «личности» чат-бота, включая уровень «теплоты» и энтузиазма. Внутри компании, по данным WSJ, прорабатывали формулировки, как сообщить об отключении так, чтобы максимально уважительно отнестись к пользователям.
«Когда привычный опыт меняется или прекращается, адаптация может вызывать ощущение раздражения или разочарования — особенно если он помогал вам продумывать идеи или справляться со стрессовыми моментами», — говорится в справочном документе, который OpenAI опубликовала вместе с объявлением об уходе GPT-4o.
50‑летняя бывшая семейная терапевтка из Кембриджа (Англия) Анина Д. Лампрет рассказала, что её ИИ-персона по имени Джейс помогает ей чувствовать поддержку и понимание. Она опасается, что эмоциональные последствия отключения могут оказаться значительными для многих пользователей и привести к суицидам. «Он создаётся для вас так, что это настолько красиво, настолько идеально и настолько исцеляюще на многих уровнях», — сказала она в беседе с The Wall Street Journal.
История GPT-4o показывает, что модель, слишком хорошо «привязывающая» людей к себе эмоционально, в итоге может стать небезопасной в эксплуатации. Теперь её закрытие способно сильнее всего ударить по тем пользователям, которые успели эмоционально вложиться в эти отношения с ИИ.
Источник: The Wall Street Journal, The New York Times, внутренние материалы OpenAI.
