ile-reunion.org · Les problématiques de l'IA à La Réunion · 8/8

Les biais et l'équité face à l'IA

L'IA apprend du passé — avec ses discriminations. Recrutement, santé, justice : exemples, audits et garde-fous, avec un regard réunionnais.

88 % des entreprises trient par IA15 % des systèmes échouent aux testsl'humain décide

1. Des exemples qui font réfléchir

88 %des entreprises utilisent l'IA pour présélectionner (2025)

15 %des systèmes échouent aux tests d'équité (Warden, 150+ audits)

−10 ptspour porter des lunettes (test allemand)

Cas documenté	Ce qui s'est passé	Leçon
Amazon (recrutement)	Modèle entraîné sur 10 ans de CV d'hommes : CV avec « women's chess club » ou écoles de femmes déclassés	Données historiques = passé discriminatoire reconduit
Santé (USA)	Coûts de soins pris comme proxy des besoins : les patients noirs, moins soignés à besoin égal, sous-priorisés	Le choix de la variable cible peut être raciste sans le dire
Vidéo-entretiens	Pénalités pour lunettes, bégaiement, handicap visible (EEOC/ADA)	Le corps ne doit pas être une variable
Noms	Candidatures à consonance minoritaire déclassées	Anonymiser ne suffit pas toujours

Groupe empilant les mains — **L'équité ne se décrète pas, elle se teste.** 75 % des DRH s'en inquiètent ; l'IA peut être jusqu'à 45 % plus équitable que l'humain si elle est auditée (Warden AI 2025, photo Unsplash).

2. Vidéo : biais des algorithmes, comment l'IA discrimine

3. La mécanique du biais (3 sources)

Données : « garbage in, garbage out » — sous-représentation (femmes, minorités, outre-mer), pratiques dépassées, proxy toxiques (coûts, codes postaux).
Algorithme : objectifs mal choisis, seuils calibrés sur la majorité.
Déploiement : biais émergents — confiance inégale selon les patients/usagers, contournement, opt-out des méfiants (Science/PMC).

À La Réunion : modèles entraînés sans kréol, sans visages ni réalités locales — (cf. rubriques 1 et 3) les résultats « moyens » ratent spécifiquement l'île.

Groupe diversifié de professionnels — **Des jeux de données à notre image.** Diversité des profils testés : la condition d'une IA équitable ici comme ailleurs (photo Unsplash).

4. Pourquoi La Réunion est concernée

Recrutement : TPE/PME qui-NUMÉRISENT leurs embauches via des plateformes : demander l'audit d'équité du fournisseur (New York l'impose : NYC LL144, règle des 4/5e).
Santé : aide au diagnostic et tri : exiger validation locale (peaux, pathologies tropicales).
École/administrations : orientation, aides : jamais de décision automatisée sans recours humain (règlement européen IA : systèmes à haut risque).

5. Garde-fous : auditer, garder l'humain

Audits indépendants (disparate impact, règle des 4/5e), publiés et répétés.
Données locales dans l'évaluation, avec consentement.
Humain qui décide (« keep a human in the loop ») + droit au recours expliqué.
Transparence : informer quand une IA participe (recrutement : l'Ontario l'impose dans les offres).

Repère : une IA peut surpasser l'humain en équité (0,94 vs 0,67 en moyenne, Warden) — à condition d'être conçue, testée et surveillée pour cela.

6. Sources

OCDE (audits NYC LL144), Cognizant/EEOC, FAIR recrutement (Amazon), Les Affaires/WEF (06/2026)
Science/PMC (biais au point de soins), npj Digital Medicine (03/2025), Warden AI 2025
Images : Unsplash ; vidéo : Koaee (YouTube). Détail : SOURCES.md

← Retour aux problématiques · 7. Dépendance · Dossier complet : 8/8 rubriques ✓