Обеспечена прозрачность системы искусственного интеллекта

Прозрачность — это раскрытие сведений о системе, а не объяснимость каждого ответа модели.

Стандарт определяет состав раскрываемых сведений: назначение, границы применения, источники данных, роль человека, порядок обратной связи.

Это добровольная практика, но она напрямую поддерживает будущие обязанности по информированию и снижает претензии пользователей.

Организации с пользовательскими AI-сценариями

• Организации, чьи AI-сценарии затрагивают клиентов, работников или внешних пользователей.

• раскрыты ли назначение и границы применения системы ИИ
• понятна ли пользователю роль человека в принятии решения
• есть ли канал обратной связи и оспаривания результата

• от организации: документ или регламент, в котором закреплено правило
• от организации: перечень AI-сценариев и систем, к которым правило применяется
• Локальные акты
• Проектная документация
• Отчёты и протоколы

• подготовить описание системы ИИ для пользователей
• разместить порядок обратной связи там, где применяется ИИ