Решение, принятое с участием ИИ в отношении клиента, объяснимо и проверяемо

Объяснимость нужна не модели, а организации: без неё невозможно ответить клиенту и надзорному органу.

Требование усиливается, когда решение приводит к отказу или ухудшению условий.

Финансовые организации, принимающие решения в отношении клиентов

• Скоринг, кредитные решения, антифрод, тарификация с участием ИИ.

• сохраняются ли входные данные решения
• восстановима ли версия модели
• предусмотрен ли пересмотр человеком

• от организации: документ или регламент, в котором закреплено правило
• от организации: перечень AI-сценариев и систем, к которым правило применяется
• Локальные акты
• Регламенты процессов
• Документация системы

• хранить входные данные и версию модели по каждому решению
• обеспечить порядок пересмотра решения