« Human-in-the-loop » : que devient le H de RH à l’ère de l’IA ?
Le mot RH de la semaine. Floriane Carré-Richter, consultante RH indépendante spécialisée dans l’accompagnement des entreprises à l’utilisation de l’IA, décrypte le concept de « human-in-the-loop ».
« Le principe du human-in-the-loop, c’est de conserver une prise de décision humaine dans des cas d’usage où l’IA pourrait être amenée à décider seule. Il se distingue du human-on-the-loop, où l’humain se contente de surveiller un système d’IA autonome, et du human-in-command, où l’humain peut décider à tout moment de se passer de l’IA pour prendre sa décision. »
Ce que dit la loi sur la supervision humaine des outils IA
« Depuis 2018, le RGPD (règlement général sur la protection des données) établit qu’une personne ne peut pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé si cette décision produit des effets l’affectant de manière significative. Dans son guide du recrutement publié en 2023, la Cnil confirme le fait qu’un outil de classement automatisé des candidatures excluant une intervention humaine peut aboutir à une forme de discrimination des candidats. »
« L’article 14 de l’IA Act, qui devrait s’appliquer aux systèmes de recrutement fin 2027, impose aussi pour tout système à haut risque une supervision humaine effective : la personne chargée de la supervision doit pouvoir comprendre les capacités et les limites du système, rester consciente du risque de biais de l’IA, interpréter correctement les résultats et pouvoir décider d’interrompre le système à tout moment. »
Pourquoi ce sujet s’impose dans la fonction RH
« Redéfinir la place de l’humain, alors que nos métiers sont de plus en plus transformés par l’IA, est un bon moyen de répondre à plusieurs inquiétudes liées au développement de cette technologie. Prenons les RH : certains sont perdus, ne savent pas pour quoi l’utiliser, d’autres sont réfractaires ou sceptiques par rapport à ce nouvel outil. D’autres, enfin, ont peur d’être remplacés ou de ne pas réussir à garder la main sur les résultats produits. »
« Ces inquiétudes ne viennent pas de nulle part, car les risques d’une utilisation mal encadrée de l’IA existent bel et bien : baisse de l’exigence en termes de qualité, utilisation non sécurisée des données, exclusion discriminatoire de candidats… Le recrutement est particulièrement exposé à ces dangers, c’est d’ailleurs pour cela que l’IA Act le classe dans la catégorie des usages à haut risque. Un exemple problématique : l’IA peut être amenée à exclure un CV qui ne correspond pas aux données de votre historique de recrutements à ce poste. Or, si cet historique ne comprend pas de profils féminins, par exemple, une IA mal paramétrée pourra rejeter et donc discriminer des candidates. »
« Il y a des risques aussi dans l’évaluation des collaborateurs : si on laisse la main à l’IA pour évaluer des collaborateurs uniquement sur de la donnée, on ne prend pas en compte des éléments déterminants pour l’évaluation tels que les retours des managers, les perceptions humaines. Pour tout ce qui concerne la vie d’un collaborateur dans une entreprise, des décisions de promotion à celles de licenciement, l’IA n’a pas du tout sa place. Elle peut, certes, préparer de la documentation ou synthétiser certaines informations, mais certainement pas prendre des décisions qui ont une influence sur la vie d’un collaborateur. »
« Le dernier risque que j’identifie concerne le droit social : l’IA peut être un bon outil de collecte de l’information, mais il faut impérativement aller vérifier ses sources. L’IA est capable d’halluciner et de vous citer, avec un aplomb total, un article de loi qu’elle a totalement inventé. Si on ne fait pas ce travail de vérification systématique et que l’on cite cette loi face à une direction ou à un CSE, on perd bien sûr en crédibilité et en légitimité. »
3 bons réflexes pour garder l’humain dans la boucle
Définissez clairement vos cas d’usage de l’IA
« La première chose à faire est de travailler sur vos cas d’usage de l’IA. On en entend certains dire qu’il faut prendre le train en marche, mettre de l’IA partout, dans tous les process, dans toute l’entreprise. Selon moi, ce raisonnement est inefficace et risqué. Le rôle de l’humain est de déterminer ce sur quoi l’IA peut nous faire gagner du temps et à quoi vont servir ces heures de travail dégagées. »
« Les RH peuvent, par exemple, gagner du temps sur des tâches chronophages et répétitives en demandant à l’IA de reformuler un texte pour l’adapter à un nouveau destinataire, de rédiger un compte-rendu d’entretien, de faire de la veille d’information. Ainsi, elles peuvent remettre l’accent sur le ‘’H’’ de leur fonction : prendre plus de temps avec les candidats en entretien, rencontrer les collaborateurs pour désamorcer des situations conflictuelles… »
Fournissez-lui des données propres et anonymisées
« Pour bien piloter l’IA, il faut lui donner un maximum d’informations. De mon côté, je travaille sur des projets dans Claude et je lui demande de se baser uniquement sur la donnée que je lui transmets, qu’il s’agisse de process que j’ai déjà rédigés, de conventions collectives, d’accords collectifs. Avec toujours le souci d’anonymiser la donnée pour que l’IA n’ait pas accès à des informations confidentielles, personnelles ou stratégiques. »
Exercez votre esprit critique
« Une mauvaise utilisation de l’IA consisterait à rédiger un prompt basique et de copier-coller le premier résultat obtenu dans un mail ou dans un livrable, sans vérification du contenu, sans vérification des sources, sans exercice de son propre jugement. »
« Il ne faut jamais faire totalement confiance à l’IA. Elle reste, comme on le dit souvent, un stagiaire qui travaille très vite, mais qui ne possède pas notre expertise métier. Il ne faut pas se limiter à sa première réponse, il faut l’orienter, lui donner du contexte et toujours itérer. L’IA nous challenge, mais il faut aussi challenger l’IA. On a le droit (et c’est sain) de ne pas être d’accord avec l’IA et de la réorienter. Le human-in-the-loop est un copilote de l’IA : on ne la laisse ni décider pour nous ni nous remplacer, mais on observe de quelle manière elle peut nous augmenter. »
Quel rôle pour les RH dans la révolution IA ?
« Selon moi, il est absolument essentiel qu’un responsable RH siège au sein des comités IA qui voient le jour dans les entreprises pour structurer la gouvernance IA. C’est non négociable, parce que l’IA touche directement la vie des collaborateurs, la vie de l’organisation. Les RH doivent s’assurer que l’entreprise rédige une charte IA pour encadrer les usages, vérifier que les collaborateurs utilisent les bons outils et qu’ils ne mettent pas de données sensibles dedans. Enfin, ils doivent travailler sur la montée en compétences de leurs collaborateurs et l’inclusion des compétences IA au sein de leurs plans de GPEC. »
