OpenAI запустила новые родительские настройки для ChatGPT. Теперь родители могут управлять использованием искусственного интеллекта своими подростками через связанные аккаунты.
Контроль осуществляется с единой панели: можно установить время использования, включить или отключить голосовой режим и генерацию изображений, а также управлять хранением данных. Подростки не могут менять эти настройки самостоятельно. Если подросток отключает свой аккаунт, родители получают об этом автоматическое уведомление.
По умолчанию в связанных аккаунтах действуют контент-фильтры — они блокируют сексуализированные ролевые игры, откровенные материалы и контент, связанный с идеалами внешности. Родители могут отключить фильтры, но изначально они включены.
Встроена система оповещений о возможном риске самоповреждения. При обнаружении угрозы ChatGPT уведомляет родителей по почте, СМС или push-уведомлению. Если на сообщение никто не реагирует, вопрос могут передать полиции или службам экстренной помощи. По заявлению OpenAI, все такие случаи сначала рассматривает подготовленная команда, а личные данные используются только в экстренных ситуациях.
Компания отмечает, что разрабатывала функцию с экспертами и регуляторами. Все новые возможности уже доступны пользователям ChatGPT. Также OpenAI планирует внедрить прогнозирование возраста для автоматической настройки нужных ограничений.
Для родителей появилась специальная информационная страница, которую пополнят руководствами, советами и тематическими материалами от специалистов.
Запуск новых функций связан с критикой в адрес OpenAI на фоне трагического случая с 16-летним Адамом Рэйном. Его семья подала в суд на компанию, обвиняя чат-бота в поощрении суицидальных мыслей, предоставлении инструкций и формировании эмоциональной зависимости. Подобные случаи вызвали дискуссии о том, как компании ИИ должны реагировать на обращения пользователей в кризисе.
В качестве технической меры OpenAI внедрила “маршрутизатор безопасности”, который автоматически направляет эмоционально окрашенные запросы пользователей на более строгие языковые модели без уведомления пользователя. Некоторые взрослые пользователи раскритиковали такой подход за патернализм и отсутствие прозрачности.
