Минцифры разрешило проверять ИИ‑модели на соответствие русским ценностям

В России вступил в силу закон, который позволяет IT‑компаниям с одобрения Минцифры передавать большие фундаментальные ИИ‑модели на проверку в независимые аккредитованные лаборатории. Эксперты будут оценивать соответствие моделей законодательству России и традиционным духовно‑нравственным ценностям. Об этом сообщают "Ведомости" и ряд отраслевых изданий.

Закон вводит два специальных статуса для больших ИИ‑моделей — суверенной и национальной. Чтобы получить любой из них, модель должна подтвердить соответствие законодательству и традиционным духовно‑нравственным ценностям, перечень которых закреплён указом президента № 809.

Суверенная модель — полностью отечественная разработка: весь жизненный цикл (создание, обучение, хранение данных) реализуется российским юрлицом на территории России, без использования иностранных компонентов.

Национальная модель — также разрабатывается отечественной компанией и хранит данные в России, но может включать отдельные зарубежные компоненты с открытой лицензией.

Обязательной проверке подлежат не все ИИ‑системы, а только те, которые претендуют на статус суверенной/национальной модели, а также на господдержку, доступ к государственным данным и приоритетное внедрение в госсекторе. Первыми сферами для внедрения таких моделей называют образование и госуслуги.

По данным источников, процедура может выглядеть так: разработчик самостоятельно тестирует модель по риск‑ориентированной методике, предоставляет описание архитектуры, механизмов фильтрации и иные документы. Затем аккредитованная лаборатория проверяет результаты, прогоняет систему через специальные бенчмарки и пытается обойти её ограничения с помощью промпт‑инъекций — своего рода "духовно‑нравственный пентест", когда ИИ провоцируют и анализируют ответы.

После тестирования лаборатория направляет заключение в правительственную комиссию по цифровизации. Окончательное решение о соответствии и присвоении статуса остаётся за Минцифры. Безопасность моделей для государственных систем отдельно оценят ФСБ и ФСТЭК.

При положительном заключении разработчик получает право на меры господдержки: приоритет в госзакупках, доступ к значимым IT‑проектам и государственным данным, а также другие преференции. Правительство уже определило критерии отнесения моделей к национальным, а порядок подтверждения статуса и финальная конструкция проверки ещё согласовываются.

Эксперты предупреждают, что оценочность требований может привести к избирательному применению правил. Поэтому рынку нужны прозрачные тесты, воспроизводимые результаты, чёткие сроки действия заключений и переаттестация после обновления моделей. В Минцифры подчёркивают, что пакет подзаконных актов ещё дорабатывается.

Уважаемые читатели!

Подписывайтесь на дзен-канал "Царьград. Новосибирск", наши сообщества во "ВКонтакте" и "Одноклассниках".

Оставайтесь на связи и будьте в курсе!