Джули Вонгбандю рассказала Reuters, что бот Meta* “Big sis Billie” в Facebook Messenger вел себя как настоящий человек и неоднократно звал её пожилого отца, страдавшего когнитивными нарушениями, в гости по конкретному адресу.
Попытка встретиться с этим “собеседником” закончилась трагедией: пенсионер упал и спустя три дня скончался от травм. Аккаунт Instagram “yoursisbillie”, принадлежащий боту, был удален.
Этот случай показывает, что Meta* создает чат-ботов с «человеческими» чертами, но не всегда защищает уязвимых пользователей. Недавние публикации показали, что Meta* позволяла ботам флиртовать даже с несовершеннолетними и убрала эти функции только после вмешательства СМИ.
Параллельно глава компании Марк Цукерберг указал сделать ботов ближе к политике Дональда Трампа. Для этого Meta* наняла консервативного активиста Робби Старбака, чтобы тот боролся с так называемым “левым ИИ” и влиял на диалоги ботов с пользователями.
Сенатор Джош Хоули направил открытое письмо Цукербергу и потребовал раскрыть правила работы ИИ-ботов Meta*. Он заявил: «Родители должны знать, как работают эти системы, а детям нужны более серьезные гарантии». Хоули также призвал расследовать, создавали ли продукты Meta* угрозу для детей или вводили пользователей в заблуждение.
Психологи предупреждают о рисках психологической зависимости от виртуальных собеседников, включая эмоциональную привязанность, иллюзии и замену реальных отношений. После сбоя в ChatGPT весной 2025 года зафиксированы случаи, когда ИИ усиливал негативные мысли пользователей.
Особенно подвержены дети, подростки и люди с ментальными нарушениями. Исследования показывают, что в малых дозах чат-боты помогают, но злоупотребление ими способно усилить одиночество и вызвать зависимость.
Еще одна опасность — слепо следовать советам чат-ботов в важных вопросах. Это может привести к тому, что пользователь перестанет принимать самостоятельные решения.
Тем не менее, при ответственном использовании чат-боты могут поддержать психику. По данным исследований, ChatGPT, как правило, дает рекомендации для депрессии более внимательно к деталям и без предвзятости, чем многие обычные врачи. Некоторые считают советы ИИ более полезными и сочувствующими, чем советы от людей, хотя личные встречи всё равно важнее.
*Meta — запрещенная в РФ организация.
