Системы искусственного интеллекта могут принимать предвзятые решения на основе данных, на которых они обучены. Эта «Предвзятость ИИ» создает как этические, так и юридические проблемы.
Распространенные сценарии предвзятости ИИ
- Проверка резюме кадров (исключает женщин)
- Отказ в выдаче кредита (по этническому признаку)
- Страховая премия (в зависимости от пола)
- Распознавание лиц (не распознает цветную кожу)
- Уголовные приговоры (COMPAS США) пример)
С точки зрения турецкого законодательства
- Статья 10 Конституции: Принцип равенства
- Статья 5 Закона о труде: Запрет дискриминации
- Статья 11/g KVKK: Право на возражение против автоматического решения
- TKHK: Против потребителя дискриминация
Доказательство
- Статистические доказательства (профиль аналогичен алгоритму, другой результат)
- Описание алгоритма (если объяснимо)
- Сопоставимый профиль
Права жертвы
- Административное/трудовое судебное дело
- Материальная и моральная компенсация
- Алгоритм замена
- Запрос на человеческий аудит
Подход ЕС к Закону об искусственном интеллекте
- Обязательное тестирование на предвзятость для «ИИ с высоким риском»
- Отчет о прозрачности
- Вмешательство человека
- Регулярный аудит
Что должны делать компании
- Разнообразие данных обучения
- Тесты на предвзятость
- Регулярно аудит
- Объяснимый ИИ (XAI)
- Механизм вмешательства человека