OpenAI на неопределённый срок приостановила разработку эротического чат-бота, сообщает Financial Times. Решение приняли после того, как сотрудники и инвесторы выразили опасения из-за возможного общественного вреда сексуализированного ИИ-контента.
Консультативный совет компании по вопросам благополучия ранее единогласно выступил против запуска режима Adult Mode. Один из участников совета предупредил, что OpenAI рискует создать «сексуального помощника по самоубийству».
У компании также возникли технические проблемы с проверкой возраста. Система ошибочно определяла несовершеннолетних как взрослых примерно в 12% случаев. На фоне 100 млн несовершеннолетних пользователей в неделю это создаёт существенный риск.
По данным FT, OpenAI хочет дождаться долгосрочных исследований о влиянии откровенных чатов и эмоциональной привязанности к ИИ, прежде чем возвращаться к проекту. В компании также обсуждали возможность полностью отказаться от этой идеи.
Инвесторы сочли соотношение риска и потенциальной выгоды неудачным. Часть сотрудников также поставила под вопрос соответствие проекта миссии OpenAI.
В коде приложения ChatGPT проект фигурирует под названием Citron Mode. Для него планировали проверку возраста пользователей 18+. Сейчас OpenAI смещает фокус на инструменты для продуктивности и на создание «суперприложения» вокруг ChatGPT.
Источник: Financial Times.
