KI-Systeme können aus den Daten, auf denen sie trainiert werden, voreingenommene Entscheidungen treffen. Diese „KI-Voreingenommenheit“ schafft sowohl ethische als auch rechtliche Probleme.
Häufige KI-Voreingenommenheitsszenarien
- HR-Lebenslaufprüfung (Frauen werden ausgeschlossen)
- Ablehnung von Kreditanträgen (auf ethnischer Basis)
- Versicherungsprämie (auf Grundlage des Geschlechts)
- Gesichtserkennung (erkennt keine farbige Haut)
- Strafurteile (US COMPAS Beispiel)
Aus der Perspektive des türkischen Rechts
- Verfassung Artikel 10: Grundsatz der Gleichheit
- Arbeitsrecht Artikel 5: Diskriminierungsverbot
- KVKK Artikel 11/g: Recht auf Widerspruch gegen automatische Entscheidung
- TKHK: Gegen den Verbraucher Diskriminierung
Beweis
- Statistische Beweise (Profil ähnlich dem Algorithmus, anderes Ergebnis)
- Algorithmusbeschreibung (falls erklärbar)
- Vergleichbares Profil
Rechte des Opfers
- Verwaltungs-/Arbeitsgerichtsverfahren
- Materielle und moralische Entschädigung
- Algorithmusersatz
- Anfordernde menschliche Auditing
Ansatz des EU-KI-Gesetzes
- Bias-Tests für „Hochrisiko-KIs“ obligatorisch
- Transparenzbericht
- Menschliches Eingreifen
- Regelmäßige Audits
Was Unternehmen tun müssen
- Vielfalt bei Trainingsdaten
- Bias-Tests
- Regelmäßige Audits
- Erklärbare KI (XAI)
- Menschlicher Interventionsmechanismus
Anwalt für künstliche Intelligenz und Gleichstellungsrecht empfohlen.