Le Dieu du travail existe. C’est même une myriade de divinités de l’emploi qui influencent chaque jour les destinées humaines du haut de leur Olympe numérique. Composées de formules mathématiques et de neurones artificiels, elles décident à quels candidats afficher cette offre d’emploi unique. Quels travailleurs triés sur le volet recommander à cet employeur. Une responsabilité colossale. C’est précisément pour cela que dans son bestiaire des intelligences artificielles, la réglementation européenne Ai Act les catégorise comme à “haut risque”.
Le Français Malt connaît bien ces animaux-là, il en est devenu un fabricant expert. Logique : son métier est de mettre en relation des indépendants qualifiés – data scientist, ingénieur logiciel, graphiste… – avec des entreprises. Pour une plateforme qui recense aujourd’hui plus de 700 000 freelances, et sert 70 000 entreprises dans 9 pays, il est vital d’optimiser les mises en relation autant que possible. Salariés comme employeurs sont déjà frustrés par le temps que prend un recrutement lorsqu’il s’agit de contrats longue durée. Dans le monde des freelances, où les missions sont souvent plus courtes et fréquentes, ce serait rédhibitoire.
Malt a donc transformé son ossature technologique ces dernières années. Par le passé, l’analyse et le matching des freelances aux missions se faisaient selon des règles précisément édictées. “Pour schématiser, si le titre, la description ou les expériences contenaient certains mots-clés pertinents pour la mission, le profil montait dans le classement. Si le tarif ne correspondait pas à la fourchette visée, il baissait”, explique Claire Lebarz, responsable Data et IA de Malt.
Le match parfait
Pour marier les bons profils aux bonnes offres, Malt a cependant perfectionné son système. “L’idée est de projeter dans un espace mathématique les missions et les freelances, explique Claire Lebarz. Puis de regarder les distances entre les uns et les autres.” Ce qu’on appelle le match parfait est donc plus prosaïque qu’on ne le pense : c’est le trajet le plus court entre deux points.
Mais pour que l’ensemble fonctionne, encore faut-il que les offres et les talents aient été correctement analysés et positionnés. A ce niveau, Malt a un atout de taille : le groupe dispose d’une vaste quantité de données sur le sujet, accumulée depuis sa création en 2013 : “Tout notre historique de matchs. Mais aussi ceux qui ont échoué, les missions refusées, cela permet d’affiner nos recommandations futures. Et les commentaires de nos clients”, pointe Claire Lebarz.
Ce vivier de data a permis à Malt de prendre très tôt la vague du machine learning avant de plonger dans le grand bain du deep learning. D’intimidants icebergs techniques entre lesquels Claire Lebarz navigue avec aisance. “En machine learning classique, on passe du temps à coder et tester toutes les variables potentiellement pertinentes pour la prédiction, explique-t-elle. Le modèle apprend quel poids leur donner. Dans les modèles neuronaux, il n’apprend pas seulement les poids en question, mais transforme les variables initialement codées en de nouvelles variables pertinentes pour la prédiction.” Pour prendre une illustration familière, imaginons que l’on entre le poids et la taille dans un outil visant à prédire si quelqu’un est en bonne santé. Avec un réseau de neurones, le modèle apprendra probablement, sans qu’on le lui dise, que l’indice de masse corporelle – poids divisé par le carré de la taille – est une transformation utile pour réaliser sa prédiction.
L’IA, remède magique contre le chômage ?
Aujourd’hui, Malt utilise différents modèles maison mais aussi des modèles externes, notamment certains outils d’IA générative. “Faire analyser une description de projet par un LLM (un grand modèle de langage) permet d’extraire de manière automatisée les compétences clés correspondant aux expériences mentionnées”, illustre Claire Lebarz. L’entreprise n’est pas la seule à plonger dans le bain de l’IA.
France Travail, Indeed, LinkedIn… Qu’ils soient publics ou privés, tous les acteurs de l’emploi s’upgradent et s’augmentent. En parallèle, des start-up promettant aux recruteurs de leur prémâcher le travail, à coups de visios et de jeux analysés par IA, se multiplient comme des petits pains. Derrière, certains caressent le doux espoir que la technologie pourrait régler les problèmes de chômage. Optimiser si bien l’offre et la demande que les gens seraient parfaitement orientés vers les postes libres, les filières en tension, les formations à des métiers d’avenir, convenant à leurs compétences et leurs aspirations secrètes. En 2016, la France s’était ainsi emballée pour Paul Duan, jeune geek travaillant sur ces sujets, qui espérait pouvoir réduire de 10 % le chômage grâce à un simple algorithme.
En pratique, l’IA dans l’emploi pose d’immenses défis. L’arrivée d’outils tels que ChatGPT bouleverse les repères. Côté pile, ces IA permettent aux candidats et aux employeurs de mieux construire leurs candidatures et leurs offres. Côté face, elles leur rendent la tâche si simple qu’on peut s’attendre à ce que “les canaux numériques soient noyés. Et les firmes submergées de CV”, alertent des chercheurs du MIT dans une étude publiée en mars. Des applications comme LazyApply – littéralement “postuler pour les flemmards” – permettent aux internautes de candidater à des milliers d’offres d’emploi en quelques heures. Le programme, qui coûte entre 100 et 250 dollars, ne leur demande que quelques informations de base sur leurs compétences, leurs expériences et les postes qu’ils visent. Il se charge ensuite de postuler à droite, à gauche à leur place. “Le signal d’effort et d’intérêt” que constitue l’acte de postuler est “corrompu”, pointent les chercheurs du MIT. Et les candidatures de tous les demandeurs d’emplois façonnées par les mêmes modèles de langage risquent de devenir “indistinctes” les unes des autres.
Autre point noir : l’IA se trompe elles aussi. Le livre The Algorithm d’Hilke Schellmann (2024, non traduit), qui a testé nombre de ces outils, montre comment certains programmes de start-up peu sérieuses l’adoubent, alors qu’elle fait des réponses ineptes ou baragouine de l’allemand quand on l’interroge sur un niveau d’anglais.
Le vrai casse-tête dans le domaine de l’emploi est cependant que les IA ont été entraînées sur des historiques de recrutements passés. Un miroir cru des préjugés humains. Ces biais donnent une place disproportionnée aux candidats de certaines écoles. A une fourchette d’âge restreinte. Au sexe masculin. Aux patronymes sans exotisme. Quand d’autres, à compétences égales, sont invisibles ou presque. Ces tendances n’échappent, hélas, pas à l’œil des IA qui ingurgitent nos choix et en tirent de bien mauvaises leçons.
“Une IA mal conçue produit de la discrimination à grande échelle”
En 2018, Amazon a ainsi débranché un projet d’IA recruteuse qui désavantageait sans raison les CV des femmes. Une étude de Bloomberg a également révélé que ChatGPT avait tendance à désavantager les noms à consonance afro-américaine lorsqu’on lui demandait de classer des CV présentant des formations et des expériences de niveaux similaires. “Une IA mal conçue peut produire de la discrimination à grande échelle, écarter les personnes d’opportunités auxquelles elles auraient dû avoir accès”, pointe Yann Padova, avocat aux barreaux de Paris et Bruxelles, associé chez Wilson Sonsini.
Ces biais sont très difficiles à détecter. Car ils se cachent parfois derrière une variable innocente : adresse, hobby… Même si l’on ne révèle pas à l’IA le sexe des candidats, elle peut par exemple “déduire” des recrutements passés que ceux pratiquant le football – plus populaire chez les hommes – sont ceux qui ont le plus de chances d’être embauchés. Il y a quelques années, LinkedIn a ainsi dû corriger l’un de ses systèmes qui, en donnant des bonus aux candidats les plus hardis, s’était mis à désavantager à l’excès des profils féminins aux compétences égales.
D’où la montée en puissance des travaux sur l’explicabilité de l’IA. “Ce sont des recherches très complexes mais il faut les mener pour pouvoir donner les clés de compréhension des résultats aux utilisateurs”, fait valoir Claire Lebarz. Malt vient d’ailleurs de recruter une experte titulaire d’un doctorat sur le sujet. L’AI Act va du reste bientôt poser “un cadre de sécurité exigeant aux éditeurs d’intelligences artificielles”, rappelle l’avocat Yann Padova.
Détecter les problèmes n’est cependant qu’un préalable. Il faut ensuite trouver le bon remède. “Qu’est-ce qui constitue une expérience acceptable ? D’un côté, nos algorithmes permettent déjà de diminuer les biais des recruteurs. De l’autre, quelles corrections doit-on apporter aux biais existants dans les données ? Dans les domaines où il y a plus d’hommes que de femmes, faut-il prendre la décision de doper la visibilité de ces dernières et si oui, jusqu’à quel ratio ?”, souligne la responsable Data et IA de Malt. L’entreprise s’est dotée d’un Freelance Advisory Board pour réfléchir à son évolution. Elle a aussi reçu un financement de la Commission européenne pour creuser ces dilemmes cornéliens avec l’université Erasmus de Rotterdam, et lancé un recrutement postdoctorat sur ce sujet. Autant de sujets sur lesquels la société dans son ensemble devra, à terme, se pencher et faire des choix difficiles. Regarder en face ses non-dits, et traduire son concept d’égalité en formules mathématiques détaillées.
