Anthropic и OpenAI начали привлекать религиозных лидеров к обсуждению этических правил для ИИ. На прошлой неделе представители обеих компаний встретились с лидерами разных конфессий в Нью-Йорке на первом круглом столе Faith-AI Covenant.
Как сообщает Associated Press, встречу организовал женевский Interfaith Alliance for Safer Communities (IAFSC). Организация подтвердила проведение мероприятия в LinkedIn. Следующие круглые столы планируют провести в Пекине, Найроби и Абу-Даби.
IAFSC была создана в 2018 году. Организация работает с религиозными лидерами по темам экстремизма, радикализации, торговли людьми и защиты детей. В описании встречи говорится, что цель инициативы — наладить диалог между религиозными традициями и разработчиками ИИ, чтобы закрепить в таких системах базовые моральные принципы.
Партнёр Interfaith Alliance баронесса Джоанна Шилдс, бывший топ-менеджер Google и Facebook, заявила, что регулирование не успевает за темпом развития технологий. По её словам, задача проекта — создать общий набор этических стандартов. Шилдс также возглавляет Precognition, компанию, которая консультирует правительства, бизнес и организации по вопросам ИИ и стратегического планирования.
Из двух компаний более активно с религиозными лидерами работает Anthropic. Ранее она уже привлекала их к формированию «конституции Claude» — свода принципов, на котором строится поведение модели.
Глава OpenAI Сэм Альтман тоже использовал духовные метафоры, когда говорил о технологии компании. В частности, он говорил, что OpenAI пытается создать «магический интеллект в небе», и добавлял, что чувствует себя «на стороне ангелов».
Инициатива получила и критику. Дилан Бейкер из Distributed AI Research Institute считает, что дискуссия об «этичном ИИ» уводит внимание от более базового вопроса: нужно ли вообще создавать некоторые системы ИИ.
Исследовательница ИИ Румман Чоудхури из некоммерческой организации Humane Intelligence, которая проверяет ИИ-системы на безопасность, справедливость и возможный вред, назвала такие обсуждения «в лучшем случае отвлекающим фактором». По её мнению, акцент на религиозной этике отодвигает на второй план практические вопросы регулирования, власти и контроля над ИИ-системами.
Брайан Бойд из Future of Life Institute увидел во встрече «некоторый элемент PR». По его словам, Кремниевая долина долго жила по принципу «двигайся быстро и ломай вещи» и в итоге «сломала слишком много вещей и слишком много людей». Сближение с религиозными институтами он считает попыткой восстановить доверие.
Источник: Associated Press, Interfaith Alliance for Safer Communities, The Decoder.
