Le biais machine n'est pas le biais du recruteur : ce que Kahneman n'avait pas prévu

Six mois de silence statistique

Un cabinet que j'accompagne déploie fin 2024 un scoring IA pour trier ses candidatures. L'argument est séduisant : retirer l'humain, c'est retirer ses préjugés. La direction y voit une garantie d'équité, et une économie de temps.

Six mois plus tard, l'audit interne révèle une anomalie. Un profil précis est rejeté presque systématiquement : les candidats en reprise d'études après une rupture de carrière. Le modèle ne les « déteste » pas — il ne les comprend pas, faute d'en avoir vu assez à l'entraînement.

Aucun recruteur n'aurait produit ce rejet aussi régulièrement. C'est là que commence le malentendu : on croit que le biais machine hérite du biais humain, alors qu'il est d'une tout autre nature.

Kahneman avait cartographié l'erreur humaine

En 1974, dans Judgment under Uncertainty, Daniel Kahneman et Amos Tversky décrivent les heuristiques qui gouvernent nos jugements. La disponibilité : on surestime ce qui vient vite à l'esprit. La représentativité : on juge sur la ressemblance à un prototype.

Ces biais sont des raccourcis mentaux, souvent adaptatifs, toujours contextuels. Un recruteur fatigué le vendredi ne juge pas comme le lundi ; un autre corrigera ce que le premier a manqué. Kahneman appelait cette variabilité le bruit — thème central de son livre Noise (2021).

Sa thèse tardive : le bruit coûte aussi cher que le biais, mais on ne le voit pas. Réduire le bruit paraît donc un progrès. Sauf qu'une machine qui supprime le bruit peut, dans le même geste, figer un biais unique.

Pourquoi le biais machine est structurellement pire

Le biais humain a une vertu cachée : il est décorrélé. Dix jurés se trompent chacun à leur façon, et leurs erreurs se compensent partiellement. C'est le principe même du jury collégial.

Un modèle unique fait l'inverse. Il applique le même biais corrélé à 100 % des candidats, sans fatigue ni variance, à chaque passage. Là où Kahneman voulait supprimer le bruit, le LLM le fait — mais il congèle simultanément le biais qui restait, lui, invisible.

Trois axes rendent ce biais plus dangereux que l'humain. La corrélation : tous jugés selon le même travers. L'échelle : des milliers de CV en une nuit. L'opacité : aucune conscience réflexive possible, aucun System 2 pour se corriger après coup.

D'où vient concrètement ce biais ? De la distribution du corpus d'entraînement, d'abord. Puis des proxies — code postal, prénom, année de diplôme, interruption de carrière — qui servent de substituts aux attributs protégés, comme le documente ce survey multidisciplinaire sur les biais du recrutement algorithmique. Enfin de l'illusion la plus tenace : une décision chiffrée paraît objective.

Un biais qui change de camp d'une génération à l'autre

La preuve que ce biais n'est pas une heuristique humaine stable ? Il se retourne. Des audits récents portant sur quatorze LLM grand public, via des CV appariés, le montrent nettement.

Selon cette synthèse française de trois études 2026, GPT-3.5-turbo reproduisait en 2023 un écart pro-blanc de +2,12 points de callbacks. Dès 2024, les modèles affichent soit un écart nul, soit un biais inversé pro-noir allant jusqu'à -3,01 points. Un renversement symétrique s'observe sur le genre.

Aucun cerveau humain ne renverse ainsi ses préjugés d'une année sur l'autre. Ce comportement est purement structurel : il dépend des données et de l'alignement par RLHF, pas d'une psychologie.

Pire encore, certains biais échappent totalement à la grille de 1974. Le self-preferencing en est l'exemple parfait : un modèle évaluateur favorise les textes qu'il a lui-même générés. D'après une analyse juridique du biais d'auto-préférence, ce biais atteint 67 % à 82 % selon les modèles, et dépasse 80 % pour GPT-4o.

Conséquence : un candidat qui rédige son CV avec le même modèle que le recruteur serait 23 % à 60 % plus souvent présélectionné, à qualité égale. Ni disponibilité ni représentativité : une préférence pour un style algorithmique, inconnue des psychologues comportementalistes.

Les garde-fous que j'applique sur le terrain

Ma première règle est ferme : un LLM ne décide jamais seul en recrutement. Je le traite comme un révélateur augmenté — il attire l'attention sur des dossiers, il ne prononce pas de verdict. La décision reste humaine et argumentée.

Je teste ensuite chaque modèle en contrefactuel. On change le prénom, le genre, l'âge sur un CV identique, et l'on mesure l'écart de score. Un delta significatif disqualifie l'usage du modèle comme filtre — c'est le test de variation, transposé des expériences de discrimination en économie du travail.

Je refuse aussi de tout centraliser sur un modèle unique. Conserver de la variance humaine décorrélée, ou faire voter plusieurs modèles dont certains plus petits et moins portés à l'auto-reconnaissance, redonne au système la vertu du jury. C'est exactement le type d'architecture que je construis quand je réalise des agents et systèmes IA sur mesure : la robustesse naît de la diversité, pas de l'uniformité.

Enfin, l'audit d'impact aligné sur l'AI Act n'est pas une formalité. Le tri de CV relève des systèmes à haut risque, et j'ai déjà exploré ailleurs ce que le règlement européen change pour le tri automatisé de candidatures. Documenter les proxies, mesurer la parité démographique, tracer les rejets : voilà le vrai travail.

Rendre le biais mesurable, enfin

La promesse n'a jamais été « l'IA objective contre l'humain biaisé ». C'est un slogan, et un slogan dangereux. Un modèle mal audité fait exactement ce que redoutait le cabinet du début : il transforme un travers ponctuel en règle systématique.

La vraie promesse est ailleurs, et elle est plus belle. Pour la première fois, on peut mesurer un biais : changer un prénom, relancer, comparer les chiffres. Kahneman réclamait cela sur des cerveaux humains, sans jamais pouvoir ouvrir la boîte crânienne.

Ce basculement s'inscrit dans une transformation plus large du travail, que j'ai abordée à propos des métiers déplacés plutôt que détruits par l'IA. Un modèle est une boîte que l'on peut sonder à volonté. Le biais machine est le premier biais de l'histoire que l'on puisse tester avant qu'il ne frappe — à condition de vouloir le regarder.