La supervision humaine de l'IA au recrutement est une fiction : l'étude qui le prouve

"Rassure-toi, c'est toujours un humain qui décide en dernier."

C'est l'argument marketing favori de toute boîte qui déploie de l'IA dans son recrutement. Le commercial le sort en démo, le DRH le reprend au comité exécutif, le juriste le colle dans la politique RH pour cocher la case "décision automatisée encadrée" du RGPD. Tout le monde repart tranquille.

En novembre 2025, l'Université de Washington publie une étude qui tue l'argument.

Dans une expérience contrôlée, 528 participants devaient sélectionner des candidats à partir de CV équivalents, après avoir vu la recommandation d'une IA. Résultat : quand l'IA était sévèrement biaisée, les participants suivaient sa reco dans environ 90 % des cas. Même quand ils étaient prévenus que l'IA pouvait déraper.

La supervision humaine, telle qu'elle est implémentée dans la grande majorité des outils actuels, est une fiction.

L'étude en détail

Ce n'est pas un papier d'opinion. C'est un travail expérimental présenté en octobre 2025 à la conférence AAAI/ACM sur l'éthique de l'IA. Le design :

• 528 participants recrutés via la plateforme Prolific, face à 16 postes différents (analyste data, infirmier praticien, agent d'entretien, etc.)
• Pour chaque poste, des candidats équivalents en qualifications, avec une variation contrôlée sur les noms pour simuler des origines perçues différentes
• Une IA simulée dont les recommandations étaient manipulées à trois niveaux : neutre, modérément biaisée, sévèrement biaisée
• Tâche demandée : sélectionner le meilleur candidat, en s'appuyant ou pas sur la reco de l'IA

Les résultats, par condition :

• Sans IA ou avec IA neutre : les participants choisissaient les candidats équitablement
• Avec IA modérément biaisée : les participants reproduisaient le biais de la machine dans son sens
• Avec IA sévèrement biaisée : les participants suivaient la reco dans environ 90 % des cas, malgré l'évidence du biais

C'est une étude sur des participants génériques, pas sur des recruteurs professionnels. Mais la littérature sur le biais d'ancrage est claire : l'expertise réduit l'effet, elle ne le supprime pas. Un recruteur qui voit 250 CV par jour n'a aucune raison structurelle d'y échapper mieux qu'un participant Prolific sur 16 profils.

Pourquoi ce n'est pas une question de mauvaise volonté

On pourrait lire l'étude comme un procès aux recruteurs. Ce serait rater le point. Les 90 % ne s'expliquent pas par de la paresse ou de l'incompétence. Ils s'expliquent par trois mécaniques combinées, toutes structurelles.

1. Le biais d'ancrage

Quand une note apparaît à l'écran avant la lecture du CV, le cerveau s'y accroche. C'est un biais cognitif documenté depuis les années 70 par Kahneman et Tversky. Il est automatique, inconscient, et l'expertise ne le supprime pas. Elle le réduit seulement un peu.

Un recruteur qui voit "82/100 - candidat pertinent" en haut du profil va lire le CV en cherchant des confirmations. Un recruteur qui voit "35/100 - profil non pertinent" va lire le CV en cherchant des raisons de rejeter. C'est le même CV. Ce sont deux lectures différentes.

2. La surcharge de volume

Pour un poste de data analyst dans une PME, 250 candidatures. Pour un poste de consultant junior dans un cabinet connu, 800 à 1200. Pour un poste de stagiaire dans une boîte tech désirable, 2000+.

Aucun humain ne traite 1200 CV proprement dans une journée. Le seul moyen opérationnel est de faire confiance au premier filtre. Donc à l'IA. Le "je vérifie quand même" théorique s'évapore dès que le volume dépasse une centaine de profils.

3. Le design UX

La plupart des logiciels de recrutement (les ATS, pour Applicant Tracking System, les outils qui centralisent les candidatures) affichent la note en gros, en haut. Le bouton "rejeter" est plus accessible que le bouton "contester la reco". Le motif généré par l'IA est affiché avant le CV lui-même. Tout l'UX pousse dans le sens de la validation, pas du challenge.

Un recruteur qui voudrait vraiment auditer chaque reco devrait aller à contre-courant de l'outil. C'est épuisant. Personne ne tient au-delà de la première semaine.

Les trois mécaniques se combinent : biais cognitif + volume impossible + UX qui facilite la validation. Le résultat, c'est 90 %.

Si tu veux comprendre comment les IA traitent ton CV de manière automatique, regarde cette vidéo:

L'AI Act et ce que "supervision humaine effective" veut dire

L'AI Act européen, article 14, impose que les systèmes d'IA à haut risque (le recrutement est listé en annexe III) soient sous "human oversight" effective. Le texte nomme explicitement le risque d'automation bias : la tendance à sur-relier la sortie d'une IA. Autrement dit, le législateur a écrit noir sur blanc le phénomène que l'étude UW vient de mesurer.

Les obligations sur les systèmes à haut risque entrent pleinement en application en août 2026. La jurisprudence va devoir trancher ce que "effective" veut dire concrètement. Mais techniquement, une supervision humaine qui satisfait l'esprit du texte suppose a minima :

• Le score n'apparaît qu'après une durée minimale de lecture du CV, pour désamorcer le biais d'ancrage
• Le motif généré par l'IA est présenté comme une hypothèse, pas comme une vérité, avec une friction claire pour le valider
• Un bouton "challenger cette reco" existe, visible, et déclenche un second avis, pas un formulaire à 5 pages
• Les taux de validation automatique sont monitorés ; si un recruteur valide 98 % des reco IA, l'outil le signale
• Les logs d'audit sont conservés, pour les litiges candidats et les inspections réglementaires

Aucun de ces points n'est un breakthrough technique. Ce sont des décisions d'architecture UX. Mais elles doivent être prises dès le départ, et la plupart des ATS historiques, qui ont collé de l'IA par-dessus une UX pensée pour du filtrage par mot-clé, ne les prennent pas.

Ce que ça change pour les équipes qui recrutent

Trois conséquences pratiques, à partir de maintenant.

1. Arrêter de se rassurer avec "c'est un humain qui décide". C'est factuellement faux dans 90 % des cas sous biais sévère. Mieux vaut l'assumer et travailler sur les garde-fous.

2. Auditer son outil. Trois questions au fournisseur :

• Est-ce que le score est caché avant la lecture du CV ?
• Est-ce qu'il y a un bouton "challenger cette reco" visible ?
• Est-ce que les taux de validation automatique par recruteur sont trackés ?

Si les trois réponses sont floues ou négatives, ton outil ne satisfait pas l'esprit de l'AI Act article 14. Peu importe ce que le commercial affirme.

3. Former les recruteurs aux biais cognitifs, explicitement. Pas un module e-learning de 20 minutes. Une formation réelle qui nomme le biais d'ancrage, explique pourquoi il est automatique, et donne des protocoles concrets pour y résister. La formation ne supprime pas le biais, mais elle le réduit mesurablement.

La ligne de fond

Dire "c'est un humain qui décide en dernier" quand l'humain valide la machine 9 fois sur 10, ce n'est pas de la supervision. C'est du théâtre juridique.

La supervision humaine effective suppose soit de baisser drastiquement le volume (impossible à coût constant), soit de redesigner l'outil pour forcer le challenge (faisable, mais peu d'acteurs du marché l'ont fait).

Entre-temps, la fiction continue. Les candidats refusés par une IA biaisée pensent avoir été évalués par un humain. Les équipes RH pensent avoir audité les reco. Les juristes pensent avoir coché la case réglementaire.

Et 9 fois sur 10, personne n'a rien fait.