Российские ИИ-модели могут начать проверять на соответствие законодательству о традиционных духовно-нравственных ценностях, сообщают «Ведомости». Речь идет о нейросетях, которые претендуют на статус национальных или суверенных. Пока такие нормы не приняты: их обсуждают в Минцифры.
Согласно закону об ИИ, принятому 26 июля, в России появились два специальных статуса для больших моделей — национальной и суверенной. Они дают разработчикам право претендовать на господдержку, доступ к данным государственных информационных систем и приоритетное использование в отдельных сферах.
Для получения такого статуса компаниям нужно подтвердить, что модель соответствует российскому законодательству и традиционным духовно-нравственным ценностям.
Как пишут «Ведомости», власти и бизнес предлагают создать специальные тесты — бенчмарки — для оценки ответов ИИ. Разработчики будут сами тестировать модели по единой методике, а затем независимые лаборатории изучат результаты и при необходимости проведут дополнительные проверки.
В частности, специалисты будут проверять, можно ли с помощью специально составленных запросов обойти ограничения, заданные разработчиком, и получить ответ, который не соответствует традиционным ценностям.
По данным источников издания, к таким проверкам предлагают допустить несколько независимых лабораторий, прошедших аккредитацию. Требования к этим организациям сейчас прорабатывают вместе с бизнесом.
По итогам экспертизы лаборатория должна подготовить заключение о соответствии модели установленным требованиям. При этом окончательное решение о присвоении статуса национальной или суверенной модели останется за Минцифры.
Эксперты сообщили «Ведомостям», что одна из главных проблем — определить, каким именно требованиям должны соответствовать нейросети, чтобы их ответы считались согласованными с традиционными ценностями.
Юристы, с которыми поговорило издание, также указали на риск субъективной оценки таких моделей. Чтобы снизить его, они предлагают поручить проверки нескольким независимым лабораториям и дать возможность оспаривать их решения.
Источник: «Ведомости», https://rb.ru/news/rossijskij-ii-proveryat-na-sootvetstvie-tradicionnym-cennostyam-testy-provedut-nezavisimye-laboratorii/
