Меры защиты информации распространены на AI-компонент информационной системы

Документ переводит абстрактное «защищайте ИИ» в конкретный перечень: журналирование запросов к модели, разграничение доступа к API, фильтрация входных и выходных данных, контроль целостности весов, управление уязвимостями AI-компонентов.

Применимость зависит от типа информационной системы и того, попадает ли организация в соответствующий контур регулирования: это не универсальный закон для каждого бизнеса, а требования к определённым категориям систем. Для остальных организаций документ остаётся ориентиром хорошей практики.

Операторы ИС, применяющие ИИ

• Организации, эксплуатирующие информационные системы, для которых применяются требования ФСТЭК России по защите информации, и использующие в них технологии ИИ.

• учтён ли AI-компонент в модели угроз
• журналируются ли обращения к модели и её ответы
• разграничен ли доступ к API и к обучающим данным
• контролируется ли целостность модели и управляются ли уязвимости

• от организации: модель угроз и организационно-распорядительные документы по защите информации
• от организации: перечень AI-компонентов и схема их размещения
• Модель угроз с учётом AI-компонента
• Техническое задание на меры защиты
• Журналы обращений к модели
• Настройки разграничения доступа к API