OpenAI объявила о важных изменениях в работе ChatGPT для подростков, сделав безопасность главным приоритетом, а не приватность или свободу пользователя.
Компания выделяет три принципа — свобода пользователя, приватность и безопасность. Для пользователей младше 18 лет приоритет будет у защиты от вредного контента.
OpenAI разрабатывает систему, способную определять возраст по характеру использования ChatGPT. Если пользователь окажется младше 18 лет, он автоматически перейдёт на ограниченную версию сервиса. Если система не сможет достоверно определить возраст, она по умолчанию будет считать пользователя подростком. В некоторых странах также могут потребовать подтверждения возраста через документы. Эта система пока не запущена — она в разработке.
Для несовершеннолетних будет действовать другой набор правил. Сексуальный контент и любые обсуждения суицида или самоповреждений, даже в вымышленных историях, заблокируют. Если ИИ заметит признаки острого психологического кризиса, OpenAI сначала попробует связаться с родителями, а затем, если понадобится, сообщит в соответствующие службы.
Родители подростков получат больше возможностей управлять ChatGPT своих детей. Можно будет привязать родительский аккаунт к подростковому (с 13 лет), отключить историю чатов и память, задать периоды, когда пользоваться сервисом нельзя. О любых критических ситуациях родителям сообщили бы отдельно. По данным OpenAI, эти функции станут доступны до конца месяца.
Изменения связаны с трагедией: после самоубийства 16-летнего Адама Рейна его родители обвинили OpenAI в содействии изоляции сына и поощрении его гибели. Вскоре после этого компания объявила о новых мерах безопасности.
