AI sistemleri eğitildiği veriden ön yargılı kararlar üretebilir. Bu "AI bias" hem etik hem hukuki sorun yaratır.
Yaygın AI Bias Senaryoları
- İK CV elemesi (kadınları eler)
- Kredi başvurusu reddi (etnik bazlı)
- Sigorta primi (cinsiyete göre)
- Yüz tanıma (renkli teni tanımıyor)
- Ceza kararları (ABD COMPAS örneği)
Türk Hukuku Açısından
- Anayasa m.10: Eşitlik ilkesi
- İş K. m.5: Ayrımcılık yasağı
- KVKK m.11/g: Otomatik karara itiraz hakkı
- TKHK: Tüketici aleyhine ayrımcılık
İspat
- İstatistiksel kanıt (algoritmaya benzer profil farklı sonuç)
- Algoritma açıklaması (eğer açıklanabilirse)
- Karşılaştırılabilir profil
Mağdurun Hakları
- İdari/iş mahkemesi davası
- Maddi-manevi tazminat
- Algoritmanın değiştirilmesi
- İnsan denetimi talep etme
AB AI Act Yaklaşımı
- "Yüksek risk AI"larda bias testi zorunlu
- Şeffaflık raporu
- İnsan müdahalesi
- Düzenli denetim
Şirketlerin Yapması Gerekenler
- Eğitim verisinde çeşitlilik
- Bias testleri
- Düzenli denetim
- Açıklanabilir AI (XAI)
- İnsan müdahalesi mekanizması
Yapay zeka ve eşitlik hukuku avukatı önerilir.