Künstliche Intelligenz wird in Entscheidungsunterstützungssystemen im Gesundheits- und Rechtswesen eingesetzt. Fragen zur Rechenschaftspflicht sind von entscheidender Bedeutung.
KI im Gesundheitswesen
- Bildanalyse (Radiologie)
- Pathologiediagnose
- Arzneimittelentwicklung
- Krankenversicherungsanalyse
- Triage
KI im Gesundheitswesen Verantwortung
- Hauptverantwortlicher Arzt (menschliche Aufsicht)
- KI-Produzent: Softwarefehler
- Krankenhaus: unzureichend Gerät
- Datenlieferant: Voreingenommenheit
KI im Recht
- Forschung des Obersten Gerichtshofs
- Dokumentenprüfung
- Vertragsanalyse
- Vorhersage des Ergebnisses von Schiedsverfahren/Rechtsstreitigkeiten
- Roboteranwälte (begrenzt)
KI-Grenzwerte im Recht
- Richter Kann nicht über KI entscheiden (nichtmenschliche Entscheidung ist verboten)
- Anwalt kann der KI nicht vertrauen und eine unkontrollierte Petition einreichen
- „KI hat einen Fehler gemacht“ ist keine Entschuldigung
Bedingung der menschlichen Aufsicht
- EU-KI-Gesetz: hohes Risiko Menschliche Aufsicht ist in der KI obligatorisch
- Türkei: KVKK Art. 11/g (Einspruch gegen automatische Entscheidung)
- Gesundheit: letztes Versprechen des Arztes
- Recht: letzter Anwalt/Richter Wort
Datenschutz
- Die Übertragung von Patienten-/Kundendaten an KI ist umstritten
- KVKK + Vertraulichkeitsverpflichtung
- On-Premise-KI sollte bevorzugt werden
- Training mit anonymen/gefälschten Daten
Praktische Empfehlungen
- KI liefert die Ausgabe immer an Menschen.
- On-Premise-KI für sensible Daten Daten
- Untersuchen Sie die Trainingsdaten der KI (Bias)
- Informieren Sie den Klienten/Patienten über den Einsatz von KI
Anwalt für künstliche Intelligenz und Berufshaftpflicht empfohlen.