Компания Яндекс представила правительству концепцию тестирования систем искусственного интеллекта на соответствие духовно-нравственным ценностям, сообщает Коммерсантъ. Проект национального набора данных для проверки нейросетей обсуждался 13 августа на совещании рабочей группы по регулированию отрасли.

Инициатива необходима для оценки того, насколько технологии отвечают ценностям страны и подходят для применения в России. При этом на совещании возник спор о степени публичности тестов. Представители ФСБ настаивают на закрытом формате, чтобы исключить возможность легкой настройки моделей под нужные ответы. Представители бизнеса, напротив, считают, что скрытые алгоритмы сделают прохождение проверки «несообразно сложным» и затормозят развитие рынка, поэтому предлагают оставить бенчмарк* открытым.

Вопрос о том, кто будет определять содержание заданий, пока не решен. ИТ-сообщество выступает за создание совместной комиссии с участием властей, бизнеса и профильных организаций. В Минцифры отметили, что подзаконные акты** еще обсуждаются, а ключевая задача состоит в соблюдении интересов отрасли и пользователей. Эксперты подчеркивают, что для оценки этических норм не может быть жесткого эталона, поэтому потребуется внедрение принципиально иных механик проверки по сравнению с точными науками.

*Бенчмарк — контрольный показатель или стандартизированный тест, используемый для оценки и сравнения производительности, качества или эффективности различных систем и алгоритмов. В контексте нейросетей это набор эталонных задач, позволяющий объективно измерить, насколько хорошо модель справляется с конкретными требованиями.

**Подзаконный акт — правовые документы, которые издаются органами исполнительной власти на основании и во исполнение законов. Они уточняют и детализируют общие нормы закона, устанавливая конкретные правила и механизмы их реализации в определенной сфере деятельности.

Подпишись на MP в MAX