Статья 11/g КВКК: Заинтересованное лицо имеет право возражать против неблагоприятного для него результата. Критически важно для принятия решений с помощью ИИ.
Примеры автоматизированных решений
- Отклонение заявки на кредит (по алгоритму)
- Проверка резюме персонала (сканирование ИИ)
- Расчет страховых взносов
- Таргетинг рекламы на основе алгоритма
- Подтверждение личности с распознаванием лиц
- Обнаружение мошенничества
Соответствующее лицо Права
- Узнать, что вы являетесь субъектом автоматического решения
- Получить информацию о его логике
- Запросить вмешательство человека
- Возражение против решения
- Запрос объяснений
Статья 22 GDPR
- Право не подвергаться полностью автоматическому решению
- Включая профилирование
- Исключения: договорные, предписано законом, явное согласие.
- Это также является прецедентом в турецком законодательстве.
Секторальное влияние.
- Кредит: необходимо объяснить причину отказа.
- HR: после проверки ИИ требуется человеческая оценка.
- Страхование: необходимо объяснить основу премирования.
- Электронная коммерция: динамическое ценообразование должно быть прозрачным.
KVKK Board Подход
Правление КВКК, искусственный интеллект. В своих приложениях он подчеркивает принципы «прозрачности» и «человеческого контроля» и допускает нарушения в случае виктимизации при полностью автоматизированных важных решениях.
Что следует делать компаниям
- Алгоритм должен быть объяснимым
- Механизм человеческого вмешательства
- Тест на предвзятость
- Регулярный аудит
- Возможность объясните соответствующему лицу.
Юрист КВКК и технологического права рекомендуется.