Проводится оценка воздействия системы искусственного интеллекта

Оценка воздействия отвечает на вопрос, который не закрывает ИБ-анализ: кому и чем навредит неверный ответ модели.

Стандарт даёт структуру оценки — контекст применения, затрагиваемые стороны, возможный вред, меры снижения, повторная оценка при изменениях.

Документ добровольного применения: он не создаёт обязанности, но даёт признанную методику и снимает спор о том, «как правильно» оценивать.

Организации, внедряющие системы ИИ

• Организации, внедряющие системы ИИ, влияющие на решения в отношении людей или на процессы с ощутимыми последствиями.

• проводится ли оценка воздействия до запуска AI-сценария
• определены ли затрагиваемые стороны и возможный вред
• фиксируются ли меры снижения воздействия и повторная оценка при изменениях

• от организации: документ или регламент, в котором закреплено правило
• от организации: перечень AI-сценариев и систем, к которым правило применяется
• Локальные акты
• Проектная документация
• Отчёты и протоколы

• утвердить процедуру оценки воздействия систем ИИ
• оформлять результат оценки документом до запуска сценария