Série idées reçues
L'IA est forcément discriminatoire — vrai ou faux ?
Série idées reçues · Article 4/10
Les scandales de biais algorithmiques — dont l'affaire Amazon qui pénalisait les CV contenant le mot « women's » — ont ancré l'idée que l'IA en recrutement discrimine systématiquement. C'est un risque réel et documenté, mais ce n'est pas une fatalité technologique : c'est une question de conception, de données et de gouvernance.
Un entretien humain non structuré produit aussi des discriminations, souvent inconscientes : effet de halo, similarité à soi, questions différentes selon le profil. L'IA bien cadrée peut au contraire imposer la même grille à tous et produire une piste d'audit impossible à obtenir après un café informel.
La bonne question pour un décideur RH n'est pas « IA ou pas IA ? » mais « avons-nous des critères explicites, excluons-nous les variables proxy et auditons-nous les résultats ? »
On entend souvent
« L'IA est forcément discriminatoire. »
En pratique
L'IA reproduit les biais qu'on lui laisse passer — un protocole structuré, des variables proxy interdites et des audits réguliers peuvent réduire la discrimination plutôt que l'aggraver.
Le risque est réel — l'affaire Amazon et au-delà
En 2018, Amazon a abandonné un outil de tri de CV entraîné sur dix ans de candidatures historiques : le modèle avait appris à pénaliser des formulations associées aux candidatures féminines. Le système n'avait pas été programmé pour discriminer — il avait appris les biais du passé.
D'autres cas documentés impliquent des proxies géographiques ou scolaires corrélés à l'origine ou au genre. L'employeur reste responsable pénalement et civilement, que la décision soit humaine ou algorithmique.
La leçon : un score opaque sur des données historiques biaisées est plus dangereux qu'un entretien structuré sur critères métier explicites.
Variables proxy à bannir explicitement
Au-delà des variables sensibles évidentes (genre, âge, origine), certains signaux indirects contaminent les modèles ou les grilles mal conçues.
- Code postal, nom de quartier ou de ville (proxy socio-économique ou ethnique).
- Établissement scolaire ou université comme filtre automatique hors pertinence métier.
- Trous dans le CV pénalisés mécaniquement (impact disproportionné sur les femmes et aidants familiaux).
- Photo, voix ou débit de parole comme critère de score.
- Langue maternelle ou accent si le poste ne l'exige pas.
- Historique de mobilité ou statut marital inféré.
La règle des quatre cinquièmes (four-fifths rule)
Héritée de la jurisprudence américaine (EEOC), la règle des quatre cinquièmes sert de test de dépistage : si le taux de sélection d'un groupe protégé est inférieur à 80 % du taux du groupe le plus sélectionné, un impact disproportionné est suspect.
Appliquez-la par étape de entonnoir (passage préqualification → entretien manager → offre) et par source de candidature. Un écart sur une étape IA signale un problème de critères ou de calibration — pas une fatalité.
Documentez vos analyses même en Europe : elles démontrent une démarche proactive aux autorités et en cas de litige.
Ce que la recherche dit sur les entretiens structurés
Les méta-analyses (Schmidt & Hunter, et travaux ultérieurs) montrent que les entretiens structurés — mêmes questions, grille de notation définie avant — prédisent mieux la performance et réduisent les biais par rapport aux entretiens libres.
Une IA de préqualification qui applique cette structure à 100 % des candidats standardise ce que beaucoup d'équipes RH n'arrivent pas à imposer manuellement sous pression de délai.
La structure ne suffit pas : les critères doivent mesurer des compétences job-related, pas des proxies de « culture fit » flou.
Checklist d'audit annuel
Programmez cet audit comme vous le feriez pour la parité salariale — avec RH, DPO et éventuellement un expert externe.
- Taux de passage par genre, tranche d'âge et source sur chaque étape.
- Revue des critères de scoring : chacun justifié par une exigence du poste.
- Test sur panel de CV ou réponses anonymisées diversifiées.
- Vérification que le fournisseur n'utilise pas d'inférence émotionnelle ou de biométrie.
- Traçabilité : chaque décision de rejet a-t-elle une revue humaine documentée ?
- Plan d'action si un écart > 20 % est détecté (recalibrage, retrait de critère, formation).
Scoring critérié HiLucy : comment ça se traduit
HiLucy évalue les réponses transcrites par rapport à des critères définis par le recruteur avant l'entretien — compétences techniques, expérience sectorielle, disponibilité, motivation factuelle — pas des signaux proxy.
Chaque synthèse est lisible par le recruteur avec les passages sources ; le score peut être contesté ou surchargé manuellement. Cette traçabilité est la base d'un audit de parité crédible.
Exigez la même transparence de tout fournisseur : pas de score unique inexplicable sur 100.
À retenir
Ce n'est pas l'IA qui discrimine — ce sont les mauvais critères et l'absence d'audit ; un processus structuré, explicite et revu annuellement est votre meilleure défense.
Questions fréquentes
L'IA est-elle forcément discriminatoire en recrutement ?
Non. Le risque vient des données et du design, pas de la technologie elle-même. Un protocole structuré, des critères explicites et des audits réduisent les biais — parfois mieux qu'un entretien non cadré.
Vous souhaitez passer du contenu à l'action ? Découvrez comment Hi Lucy automatise vos entretien IA vocale et vos processus d'entretien via intelligence artificielle.