OpenAI пообещала ужесточить протоколы безопасности при работе с пользователями в Канаде после массовой стрельбы в школе в Тумблер-Ридж (провинция Британская Колумбия), в результате которой погибло восемь человек. Подозреваемый Джесси Ван Рутселар ранее общался с ChatGPT.
Как сообщает The Wall Street Journal, внутренний алгоритм OpenAI пометил эти диалоги как возможные признаки угрозы реальному насилию. Сотрудники компании проверили сообщения и заблокировали аккаунт, однако тогда решили не обращаться в полицию.
В письме министру по вопросам искусственного интеллекта Канады Эвану Соломону OpenAI сообщила, что планирует расширить критерии передачи данных аккаунтов правоохранительным органам, наладить прямые каналы связи с канадской полицией и улучшить системы выявления попыток обхода правил.
Вице-президент OpenAI Энн О’Лири заявила, что по новым правилам этот аккаунт был бы передан правоохранительным органам. Министр юстиции Канады Шон Фрейзер предупредил, что могут последовать дополнительные регулирования ИИ, если OpenAI не реализует обещанные меры быстро.
Источник: The Wall Street Journal.
