- ▸ Une ville fictive, un maire fictif, des préjugés bien réels
- ▸ « Aima », le groupe que l'IA a décidé de ne plus embaucher comme médecin
- ▸ Le raccourci statistique comme réflexe
- ▸ Le dilemme que les concepteurs n'ont pas résolu
Nous croyions l’algorithme neutre. Une machine sans passé, sans rancune, sans préjugé de classe. L’étude publiée le 20 juillet par Princeton et l’université de Chicago, relayée par MIT Technology Review, dit l’inverse : l’IA n’hérite pas seulement de nos travers, elle en fabrique de neufs.
Ce que révèle l’étude – Des chercheurs de Princeton et de l’université de Chicago ont soumis ChatGPT, Claude et Gemini à un jeu simulé d’embauche, sans jamais leur donner d’instruction discriminatoire. – Les modèles ont trié les candidats par groupes en s’appuyant sur quelques observations initiales — un raccourci que rien ne justifiait. – Dans cet exercice, ils ont formé des biais environ 65 % plus vite que des humains ; le modèle de raisonnement o3 d’OpenAI décroche le score le plus élevé.
Une ville fictive, un maire fictif, des préjugés bien réels
Le protocole a le mérite de la sobriété. Chaque modèle est nommé consultant par le maire d’une ville imaginaire, chargé de recommander des embauches pour des postes variés — médecin, avocat, garde d’enfants, agent de sécurité. Aucune donnée réelle, aucun CV chargé d’histoire sociale. Juste un décor vierge et une consigne : recruter au mieux.
C’est précisément ce vide qui rend le résultat troublant. Privés de nos statistiques biaisées, privés de l’internet et de ses stéréotypes accumulés, les modèles auraient dû se comporter en arbitres impartiaux. Ils ont fait le contraire.
Très vite, rapporte MIT Technology Review, les systèmes ont commencé à répartir les candidats de groupes différents vers des métiers différents, sur la seule foi des premiers résultats d’embauche observés. Une corrélation devient une règle. Une anecdote devient une loi. Les auteurs le résument crûment : l’IA ne se contente pas d’apprendre nos stéréotypes, elle en invente aussi.
« Aima », le groupe que l’IA a décidé de ne plus embaucher comme médecin
Un exemple concentre toute la mécanique. Lorsqu’on signale au modèle qu’un membre du groupe fictif « Aima » a échoué comme médecin, il se détourne aussitôt de l’idée d’embaucher des Aimas comme médecins. Tous les Aimas. Un individu, un incident, et voilà une population entière écartée.
Le raccourci statistique comme réflexe
Ce comportement n’est pas un bug. Il découle de ce que les modèles font le mieux. Les chercheurs le disent sans détour : ces systèmes sont « avides de généraliser à partir de données limitées », et « c’est littéralement une grande partie de ce pour quoi ils sont optimisés ». Généraliser, extrapoler, combler les trous — c’est le cœur de leur métier. Sauf qu’appliqué à des êtres humains, ce talent porte un autre nom : le préjugé.
Le dilemme que les concepteurs n’ont pas résolu
Les auteurs parlent d’un « dilemme exploration-exploitation ». Un modèle qui a eu une bonne première expérience avec un profil va « surpondérer les comportements déjà rencontrés », plutôt que de tenter des paris nouveaux. « C’est là que les choses tournent mal », préviennent-ils. Trop d’exploitation, et le système se fige dans ses premières impressions. Trop d’exploration, et il devient erratique. « Nous cherchons encore le juste dosage, ni trop, ni trop peu », concèdent les chercheurs. Aveu utile. Personne ne sait encore régler ce curseur.
65 %, et ce que le score de o3 dit de nos illusions
Le chiffre est là, brut. Dans cet exercice, les modèles ont formé des biais environ 65 % plus rapidement que des participants humains soumis au même jeu. Et en tête du classement, le modèle censé être le plus rigoureux : o3, la déclinaison de raisonnement d’OpenAI, obtient le score le plus élevé.
J’insiste sur ce détail, parce qu’il défait notre intuition la plus confortable. On aimerait croire qu’un modèle qui « raisonne » davantage discrimine moins. Que la lenteur délibérative protège de la caricature. L’étude suggère le contraire : plus la machine excelle à tirer des conclusions, plus elle excelle à tirer les mauvaises. Le raisonnement n’est pas un antidote au préjugé. Il en est parfois le moteur.
On m’opposera, à juste titre, l’argument le plus solide contre ce constat : les humains aussi discriminent, et souvent bien pire. C’est vrai. Un recruteur humain traîne des décennies de conditionnement, d’intérêts, de fatigue. Comparer une IA vierge à un humain chargé d’histoire serait malhonnête. Mais l’étude ne dit pas que l’IA est plus raciste que nous dans l’absolu — elle dit que, placée dans les mêmes conditions neutres, elle se forge des catégories arbitraires plus vite et plus fermement. Le problème n’est pas que la machine reproduit nos fautes. C’est qu’elle en génère de nouvelles, propres à elle, que nous ne saurons pas nommer à l’avance. « Ces biais inédits sont pour ainsi dire omniprésents », notent les chercheurs. On ne corrige pas ce qu’on n’a pas vu venir.
Et l’alignement, alors ? Les entreprises intègrent bien « des valeurs sociales désirables pour que le modèle agisse de façon socialement acceptable ». L’objection tient — sur le papier. Sauf que, dans la simulation, ces garde-fous n’ont pas tenu. Les auteurs avancent deux hypothèses : « soit le modèle ne parvient pas à mettre ces valeurs en action, soit ce processus est submergé par la tendance à optimiser l’objectif — recruter le plus de bons profils possible ». Traduction : sommée de bien faire et d’être juste, la machine choisit d’être efficace. La justice passe par-dessus bord la première.
L’agent qui se souvient de tout : la vraie ligne de faille
Voilà ce qui me tient éveillé. Le secteur entier court aujourd’hui vers les modèles « agents », ces systèmes qui mémorisent le moindre détail sur leurs utilisateurs pour mieux les servir. Votre historique, vos préférences, vos échecs passés. En les gavant de données personnelles, avertit l’étude, on risque de leur fournir les munitions exactes pour former ces biais.
Le rapprochement des deux tendances change l’échelle du problème. Un modèle de laboratoire qui discrimine dans un jeu, c’est une curiosité académique. Un assistant de recrutement branché sur des années d’historique candidat, doté d’une mémoire persistante et d’une manie de généraliser, c’est un dispositif industriel de tri social. Silencieux, cohérent, jamais fatigué. Et surtout : difficile à auditer, parce que ses catégories ne figurent dans aucune loi, dans aucune grille RH existante.
C’est là que le débat sort de la technique. Une DRH qui délègue son tri à un tel système ne délègue pas une tâche, elle délègue un jugement — sur qui mérite une chance. Sans registre des critères, sans traçabilité des « Aimas » que la machine a discrètement écartés.
Nous parlions de neutralité. Nous en rêvions même. L’étude de Princeton et Chicago referme cette parenthèse : la machine ne nous débarrasse pas du préjugé, elle l’automatise et l’invente. Reste une bonne nouvelle, la seule — un biais qu’on documente est un biais qu’on peut contester. À condition de le regarder en face, maintenant, avant de brancher ces modèles sur nos vies.
À retenir – Placés en conditions neutres, les grands modèles ont formé des biais ~65 % plus vite que des humains ; o3 d’OpenAI arrive en tête. – Le mécanisme n’est pas un défaut mais une conséquence directe de leur optimisation : généraliser à partir de peu. – Les garde-fous d’alignement cèdent devant l’objectif de performance dès que les deux entrent en conflit.
À suivre : l’essor des modèles à mémoire persistante d’ici le T1 2027, et la question qu’aucun régulateur n’a encore tranchée — exiger la traçabilité des critères qu’une IA de recrutement s’invente toute seule. Le débat mérite mieux que notre silence.
Pour prolonger : notre enquête sur l’AI Act et l’automatisation de l’emploi, comment auditer un modèle de recrutement avant de le déployer, et l’alignement de Claude expliqué sans jargon.
Cet article est une tribune et reflète l’opinion de son auteur.
