ФСТЭК дополнит требования к защите госинформсистем правилами использования ИИ

ФСТЭК России разработала проект приказа, который вносит изменения в требования к защите информации в государственных информационных системах. Изменения касаются использования искусственного интеллекта.

В перечень требований добавляется пункт о порядке защиты информации при использовании ИИ. При применении моделей ИИ оператор обязан выделить их в отдельный сегмент информационной системы или инфраструктуры.

Привилегированный доступ пользователей в этот сегмент должен осуществляться с использованием усиленной многофакторной аутентификации. В выделенном сегменте реализуется контроль доступа к моделям с предоставлением минимальных прав. Мероприятия должны включать регистрацию и анализ действий пользователей.

Если модели ИИ применяются для обработки информации ограниченного доступа или значимых функций, дополнительно требуются контроль доступа к моделям, фильтрация входных и выходных данных, квотирование запросов, ограничение и контроль функциональности моделей.

Для агентов ИИ, включая автономных, оператор обязан принимать меры по предотвращению несанкционированного воздействия на ресурсы и контролировать права доступа.

При использовании сервисов на основе моделей ИИ меры защиты со стороны подрядчиков закрепляются во внутренних стандартах и регламентах.