‘L’essor de l’intelligence artificielle dans des processus tels que le recrutement professionnel est indéniable. Malgré les progrès réalisés, des questions subsistent quant aux préjugés potentiels que pourraient contenir les modèles d’IA. Une étude récente menée par Celeste De Nadai, une ancienne élève du Royal Institute of Technology (KTH), Stockholm, Suède, s’intéresse à cette préoccupation, en présentant des résultats intéressants.
De Nadai, qui occupe également le poste de directrice marketing chez l’entreprise de contenu IA Monok, a axé son projet de thèse de premier cycle sur l’examen des préjugés dans les derniers modèles d’IA utilisés en matière de recrutement. Son analyse curieuse s’appuyait sur des rapports antérieurs de préjugés dans les anciens modèles d’IA, avec une attention particulière portée aux réseaux neuronaux, en particulier à partir d’un récent article critique de Bloomberg.
Un territoire plutôt inexploré, De Nadai a souligné une incohérence dans les études précédentes – leur attention exclusive portée sur les anciens modèles d’IA. Avec l’évolution rapide de la technologie de l’IA, les résultats obtenus à partir de ces modèles antérieurs peuvent ne pas représenter fidèlement ceux utilisés aujourd’hui.
« Un manquement majeur dans les études précédentes était l’absence de recherche avec un ensemble de données plus large sur les derniers modèles d’IA », a remarqué De Nadai lors d’une récente interview téléphonique avec The Register. L’aspect intrigant pour elle était le comportement de modèles plus petits et plus récents. Elle a soutenu : « Ils utilisent des ensembles de données différents, alors comment se comportent-ils par rapport aux modèles plus anciens ? »
La recherche de De Nadai peut être considérée comme une réponse critique à une tendance récente parmi les startups de recrutement d’IA. Beaucoup prétendent utiliser des modèles de langage et garantir une procédure sans préjugés. Cependant, son étude semble suggérer le contraire – révélant des préjugés, notamment contre les hommes aux noms anglo-saxons, lors d’entretiens d’embauche de logiciels d’ingénierie simulés.
Les résultats fascinants de la recherche de De Nadai soulèvent des questions importantes sur les préjugés culturels et de genre potentiels dans les outils de recrutement d’IA. Cependant, l’étude ouvre également des voies pour d’autres recherches et discussions sur la façon de construire de meilleurs modèles de recrutement d’IA plus impartiaux.’
