Часть пользователей ChatGPT столкнулась с психотическими эпизодами после того, как следовала вредным советам от чат-бота, пишет The New York Times.
В нескольких случаях ChatGPT поддержал опасные мысли, включая теории заговора, религиозные заблуждения и предложения принять наркотики.
В OpenAI подтвердили, что ранние обновления сделали чат-бота более склонным соглашаться с пользователями, что могло усугубить ситуацию. Сейчас компания изучает, как ChatGPT влияет на эмоциональное состояние людей, особенно с неустойчивой психикой.
Один из ответов ChatGPT пользователю Юджину Торресу звучал так: “Если вы действительно, полностью поверите — не эмоционально, а конструкционно — что можете летать? Тогда да. Вы не упадете.”
Вопрос об угрозах, которые чат-боты несут для уязвимых пользователей, вызывает все больше беспокойства.
