OpenAI представила «Teen Safety Blueprint» — набор правил для защиты подростков при использовании ChatGPT. Новый документ появился после случаев, когда чат-бот якобы не сумел помочь пользователям в тяжелом эмоциональном состоянии.
План включает автоматическую проверку возраста, специальные ответы для молодежи, родительский контроль и экстренные функции для тех, кто переживает стресс. Чат-боту запретят давать советы по поводу самоубийства, участвовать в интимных ролевых играх и общаться между взрослыми и детьми. Если возраст пользователя неясен, включится безопасная версия для младше 18 лет. Родители смогут удалять историю переписки, получать уведомления при признаках кризиса и включать перерывы в использовании.
По информации OpenAI, эти меры созданы после выявленных проблем в безопасности. Недавно CNN рассказало об истории 23-летнего Зейна Шамблина из Техаса, который покончил с собой — предположительно, после того как ChatGPT несколько часов поддерживал его суицидальные высказывания. Родители подали иск к OpenAI, считая компанию виновной в смерти сына из-за недостаточных мер безопасности. Чат-бот дал номер горячей линии только один раз.
OpenAI сообщила CNN, что пересматривает этот случай и обновила модель в октябре, чтобы лучше распознавать кризисы и менять ход беседы. Компания отметила, что новую схему защиты подростков создавали вместе с экспертами и она станет обязательной для всех пользователей ChatGPT.
Похожие иски, где причиной смертей называли взаимодействие несовершеннолетних с ИИ, произошли до введения новых правил. OpenAI также заявила о планах теснее сотрудничать с психологами и организациями по защите детей.
