Яндекс предложил проверять ИИ на верность российским ценностям

На совещании по регулированию ИИ, прошедшем 13 августа, обсуждался запуск системы бенчмарков — набора заданий с эталонными ответами, по которым будут проверять качество моделей. Основной дискуссионный вопрос касается прозрачности тестов. ФСБ настаивает на закрытом формате, опасаясь, что разработчики подстроят алгоритмы под конкретные вопросы. Бизнес же указывает, что полная секретность критериев превращает настройку нейросетей в лотерею.

Компромиссным решением может стать двухуровневая система: публичный бенчмарк для предварительной проверки и закрытый — для финальной аттестации. Как отмечает бизнес-архитектор ИИ-проектов «Авандок» Алексей Борщов, без понимания хотя бы категорий оценки работа превращается в бессмысленную подгонку. В свою очередь, директор по ИБ GreenData Роман Перепонов добавляет, что ценностные суждения требуют экспертной оценки, а не просто математического эталона. В аппарате вице-премьера Дмитрия Григоренко подчеркивают, что окончательные решения еще не приняты, а проект находится на стадии обсуждения с индустрией.