Применяются методические документы ФСТЭК России по защите информации при использовании ИИ

Для государственных информационных систем и значимых объектов КИИ документы ФСТЭК России обязательны; для остальных организаций это признанная методика.

Специфика ИИ — отравление обучающих данных, инъекции в промпт, утечка через выходные данные — должна попасть в модель угроз, а не остаться за её пределами.

Меры защиты выбираются под фактическую архитектуру: доступ к внешней модели, база знаний, журналы запросов.

Операторы информационных систем с ИИ

• Операторы ГИС, субъекты КИИ и организации, добровольно применяющие методику ФСТЭК России.

• включены ли угрозы, связанные с ИИ, в модель угроз
• определён ли состав мер защиты для AI-контура
• подтверждена ли эффективность мер по результатам оценки

• от организации: документ или регламент, в котором закреплено правило
• от организации: перечень AI-сценариев и систем, к которым правило применяется
• Локальные акты
• Регламенты и договоры
• Отчёты и протоколы

• актуализировать модель угроз с учётом ИИ
• зафиксировать состав мер защиты AI-контура в организационно-распорядительных документах