يمكن لأنظمة الذكاء الاصطناعي أن تنتج قرارات متحيزة بناءً على البيانات التي تم تدريبها عليها. هذا "تحيز الذكاء الاصطناعي" يخلق مشاكل أخلاقية وقانونية.
سيناريوهات انحياز الذكاء الاصطناعي الشائعة
- فحص السيرة الذاتية للموارد البشرية (يستبعد النساء)
- رفض طلب القرض (على أساس عرقي)
- أقساط التأمين (على أساس الجنس)
- التعرف على الوجه (لا يتعرف على البشرة الملونة)
- الأحكام الجنائية (نظام COMPAS الأمريكي) مثال)
من منظور القانون التركي
- المادة 10 من الدستور: مبدأ المساواة
- المادة 5 من قانون العمل: حظر التمييز
- المادة 11 من KVKK/ز: الحق في الاعتراض على ��لقرار التلقائي
- TKHK: ضد المستهلك التمييز
الدليل
- الأدلة الإحصائية (ملف تعريف مشابه للخوارزمية، نتيجة مختلفة)
- وصف الخوارزمية (إذا كان قابلاً للتفسير)
- ملف تعريف قابل للمقارنة
حقوق الضحية
- قضية المحكمة الإدارية/العمالية
- التعويض المادي والمعنوي
- الخوارزمية الاستبدال
- طلب التدقيق البشري
نهج قانون الاتحاد الأوروبي للذكاء الاصطناعي
- اختبار التحيز إلزامي لـ "أنظمة الذكاء الاصطناعي عالية المخاطر"
- تقرير الشفافية
- التدخل البشري
- التدقيق المنتظم
ما يجب على الشركات فعله
- التنوع في بيانات التدريب
- اختبارات التحيز
- العادية التدقيق
- الذكاء الاصطناعي القابل للتفسير (XAI)
- آلية التدخل البشري
محامي الذكاء الاصطناعي وقانون المساواة الموصى به.