Stéréotypes et stigmatisation des femmes à l’heure de l’IA : comment les RH peuvent-elles s’en prémunir ?

Dans un récent rapport, l’Unesco met en garde contre l’IA qui reflète, voire amplifie, les préjugés à l’encontre des femmes. Quelles formes ces discriminations prennent-elles lorsque cette technologie est utilisée dans le cadre du recrutement ?

Géraud Tarride : De manière assez basique, elles prennent exactement la même forme que les discriminations et les stéréotypes qui sont véhiculés par la société. Pour la simple et bonne raison que, pour fonctionner, les IA génératives puisent dans d’importantes bases de données créées par des humains, eux-mêmes en proie à ces préjugés sexistes.

Au fil du temps, les IA ont été utilisées par les recruteurs pour trier des CV et sélectionner les profils des meilleurs candidats. Or, ces choix sont biaisés, car ils se fondent sur des données historiques qui, elles-mêmes, le sont : par exemple, pour un poste à pourvoir dans le secteur de l’industrie ou de l’ingénierie, l’algorithme privilégiera des candidatures masculines, car ce sont des métiers principalement exercés par des hommes.

Demandez à une IA : « Dessine-moi un docteur », il y a 9 chances sur 10 qu’elle représente un homme. Mais si vous lui dites : « Dessine-moi un infirmier », il y a 9 chances sur 10 que ce soit une femme. Le nœud du problème, c’est le manque de représentativité des femmes dans certains métiers mais aussi la manière dont l’IA présente la femme, souvent de manière extrêmement caricaturale et sexualisée.

Quelles solutions les recruteurs ont-ils à leur main pour limiter ces biais de genre ?

G. T. : De manière pragmatique, il est essentiel de comprendre comment fonctionnent ces systèmes et de les intégrer progressivement dans les processus de recrutement. Par exemple, en testant ces outils sur un échantillon restreint de postes pour s’assurer de leur pertinence.

Si l’on instaure une fonctionnalité qui permet de trier des CV, on peut d’abord s’assurer que, sur une poignée de postes, les profils suggérés par l’outil sont bien les meilleurs et les plus pertinents. Et si ce n’est pas le cas, travailler en collaboration avec des développeurs pour corriger ces biais.

Garder l’humain dans les process est plus que nécessaire. De même que de procéder par étape et par sujet, dans un souci de prudence et d’ajustement permanent.

Pour quelles autres missions RH ces discriminations de genre véhiculées par l’IA peuvent-elles avoir des conséquences néfastes ?

G. T. : Dans le cadre de l’évaluation des compétences et de la gestion des talents, car les bases de données reposent souvent sur des statistiques défavorables aux femmes. A titre d’exemple, les femmes sont plus nombreuses que les hommes à prendre des congés parentaux ou à s’absenter pour garder un enfant malade.

Donc l’IA, dans son corpus de connaissances et de référentiels, va retenir que le taux d’absentéisme est plus élevé chez les femmes que chez les hommes. Et peut-être écarter les populations féminines des propositions d’augmentation ou de changement de poste, au regard de ce critère.

De la même manière, les femmes demeurent, en moyenne, moins bien payées que les hommes à poste égal. Elles sont aussi moins présentes au sommet de la hiérarchie de l’entreprise. Des réalités qui contribuent, là encore, à biaiser les corpus sur lesquels se basent les outils d’IA.

Quels sont les défis pour la fonction RH à l’heure de l’IA ?

G. T. : Comme dans toutes les périodes de transformation, il y a deux grands défis à relever pour les équipes RH : la réassurance et l’appropriation pour une meilleure adaptation.

Premier constat, les deux tiers des salariés qui ne sont pas formés à l’IA générative ne souhaitent pas l’être* parce qu’ils ont peur de ce qu’ils ne connaissent pas. Pour les rassurer, les RH doivent les informer sur la nature et le fonctionnement de l’IA. L’employeur peut mettre en place des dispositifs d’écoute pour que les salariés fassent part de leurs questions et de leurs craintes : comment va évoluer mon emploi ? Comment l’IA peut m’être utile au travail ?

Deuxième enjeu : la formation des collaborateurs. Les RH ont un rôle à jouer dans l’appropriation de cette technologie et notamment par leurs collaboratrices. Les femmes sont aujourd’hui sous-représentées dans les métiers de l’IA. Les RH doivent les accompagner pour monter en compétences sur ces outils et améliorer leur employabilité.

L’IA peut-elle être envisagée comme un outil au service de l’égalité hommes femmes et à quelles conditions ?

G. T. : Malgré tout, je suis plutôt optimiste quant aux perspectives sur l’utilisation de l’intelligence artificielle par les RH, même s’il faut rester vigilant. En pondérant les données existantes avec des paramètres sociaux appropriés, l’IA pourrait bien renforcer le profil féminin sans recourir à des mesures discriminatoires. L’important est de travailler main dans la main avec ses développeurs, pour qu’ils intègrent les valeurs de l’entreprise dans le code, et d’utiliser les IA de manière éthique et consciente.

A l’avenir, les IA prédictives pourraient même être envisagées comme des outils de soutien aux populations vulnérables, notamment les femmes confrontées à des pressions familiales et professionnelles. Ces technologies peuvent identifier les individus en difficulté, alertant ainsi les gestionnaires et les ressources humaines pour une intervention appropriée.

Enfin, des outils comme ChatGPT sont très pertinents pour auditer les contenus RH afin d’éliminer les biais sexistes et de favoriser l’inclusion au sens large dans les communications d’entreprise. Ces approches démontrent le potentiel des technologies pour servir l’humain de manière positive et proactive.

*source IFOP : Etude menée à la demande de Learnthings.fr et de l’agence spécialisée en data FLASHS sur 1 911 personnes (dont 952 salariés) en France, du 21 décembre 2023 au 3 janvier 2024