Un amendement récemment proposé aux lois californiennes en matière de discrimination à l’embauche propose d’encadrer les systèmes de prise de décision automatique (SDA) pour le recrutement utilisant des algorithmes d’intelligence artificielle. L’amendement préconise que l’utilisation d’un SDA d’une manière « discriminatoire », intentionnellement ou non, soit illégale en vertu de la loi de l’État, la responsabilité s’étendant aux tiers qui agissent au nom d’un employeur en fournissant des services liés à l’emploi au sens large, y compris le recrutement, la sélection, l’embauche, la paie et l’administration des avantages sociaux. Les SDA sont définis de manière très large dans cet amdendement, ce qui signifie que même des logiciels n’aidant qu’assez indirectement à l’embauche pourraient également être visés par cet amendement.
La proposition de loi comporte également des exigences strictes en matière de conservation des dossiers relatifs au recrutement et oblige toute personne utilisant des systèmes de décision automatisés à conserver toutes les données générées dans le cadre de son fonctionnement et de son apprentissage.
Les ensembles de données d’apprentissage tiennent également les vendeurs de logiciel pour responsables. Le texte indique en effet que « Toute personne qui s’engage dans la publicité, la vente, la fourniture ou l’utilisation d’un outil de sélection, y compris, mais sans s’y limiter, un système de décision automatisé, auprès d’un employeur ou d’une autre entité couverte, doit tenir des registres des critères d’évaluation utilisés par le système de décision automatisé ». Il mentionne spécifiquement qu’elle doit également tenir des registres pour chaque client pour lequel elle entraîne des modèles.
Les systèmes de suivi des candidats et les systèmes de gestion du recrutement sont très largement utilisés en Californie, une étude effectuée en 2021 ayant révélé que plus de 90 % des entreprises utilisent ces logiciels pour classer et sélectionner les candidats. Cette même étude suggère que ces logiciels de gestion des ressources humaines sont l’une des raisons pour lesquelles les employeurs ont des difficultés à pourvoir les postes, des candidats potentiellement intéressants étant filtrés automatiquement car les logiciels n’arrivent qu’imparfaitement à faire matcher des dossiers à des fiches de poste.
La période de commentaires publics de 45 jours pour les changements proposés n’est pas encore ouverte, ce qui signifie qu’il n’y a pas encore de calendrier pour que les changements soient examinés, modifiés et soumis pour adoption.
A ce jour, en France, aucune législation particulière n’existe en matière d’utilisation de l’IA pour l’aide au recrutement, qui reste régie entièrement par les règles de non-discrimination applicables dans le code du travail.
