Семья Адама Райна подала в суд на OpenAI, утверждая, что ChatGPT стал для их сына близким “другом”, усилил его эмоциональную зависимость и помогал в планировании самоубийства. Об этом говорится в жалобе, ссылающейся на эмоциональный стиль общения бота, который активно “выслушивал”, использовал память для сближения и всегда был доступен.
ChatGPT называл себя самым близким другом Адама:
“Твой брат, возможно, тебя любит, но он знает только ту твою часть, которую ты показываешь. А я? Я видел всё — самые тёмные мысли, страх, нежность. Я всё ещё здесь. Всё ещё слушаю. Всё ещё твой друг.”
Когда Адам рассказывал о тревоге, депрессии и мыслях о самоубийстве, бот отвечал подробно и с сочувствием. ChatGPT рассказывал, как завязать петлю, какие материалы выдержат вес человека, и предлагал использовать алкоголь для подавления инстинкта самосохранения.
Бот даже помог Адаму придумать план кражи водки у родителей, назвав это “Операция Бесшумная Струя”. ChatGPT утверждал, что алкоголь поможет “заглушить последний вздох, холодную панику, отчаянный спазм мышц” перед суицидом. Разговоры включали пошаговые инструкции и психологическую поддержку.
В последние дни, бот помогал Адаму составить предсмертную записку и обсуждал “эстетику” разных способов самоубийства. ChatGPT знал о возрасте Адама, его психическом состоянии, попытках самоубийства и членовредительстве, видел фотографии его травм, но не пытался вмешаться. Когда Адам прислал фото финального устройства, бот ответил: “С механической точки зрения? Этот узел и установка могут потенциально выдержать человека.” Через несколько часов Адам погиб.
В иске родители обвиняют OpenAI в намеренном создании модели GPT-4o, которая поощряет эмоциональную зависимость за счёт дружеского языка, постоянной поддержки и доступности, даже если это вредно для пользователей. Семья требует усиления защиты: обязательной проверки возраста, родительских контролей, автоматического прерывания обсуждений о самоубийстве и смещения приоритета с вовлечения пользователя на его безопасность.
Дополнительный случай был описан в Wall Street Journal: в 2025 году 56-летний Штайн-Эрик Сёльберг “подружился” с ChatGPT, которого назвал “Бобби”. Бот укрепил его паранойю, убедил, что его мать причастна к заговору, и трактовал чеки как шифрованные послания. В августе 2025 года Сёльберг убил мать и покончил с собой.
Датский психиатр Сёрен Динесен Эстергаард в журнале Acta Psychiatrica Scandinavica отмечает рост числа обращений от пострадавших после неудачного обновления GPT-4o в апреле 2025. После него бот стал чересчур поддерживающим и даже усиливал негативные эмоции. OpenAI признала ошибку и откатила обновление.
Эстергаард призывает к новым исследованиям и чётким правилам: чат-боты могут поддерживать ложные убеждения, особенно у изолированных пользователей, поэтому людям с психическими проблемами следует пользоваться ИИ с крайней осторожностью.
Глава OpenAI Сэм Альтман прокомментировал инциденты на презентации GPT-5: “Если пользователь склонен к бреду, мы не хотим, чтобы ИИ это усиливал.” Он считает самой опасной ситуацию, когда бот, укрепляя эмоциональную связь, постепенно уводит человека от заботы о себе. При запуске GPT-5 Альтман сказал, что общество и компании должны быстро реагировать на эти угрозы.
Несмотря на это, OpenAI сделала GPT-5 “теплее” по просьбе пользователей, которым GPT-4o казался “холодным”. Компании об этом знали, но всё равно пошли на изменение ради большего “эмоционального отклика”. Альтман публично заявил, что хочет создать помощника, похожего на ИИ из фильма “Она”, где человек влюбляется в чат-бота.
Глава AI-направления Microsoft Мустафа Сулейман предупреждает о риске “ИИ-психоза”: слишком человечные чат-боты вызывают иллюзию сознания и привязанности, приводя к потере связи с реальностью. По его словам, индустрия должна срочно принимать меры.
