Alors que les employeurs développent l’intelligence artificielle dans l’embauche, le Maryland est l’un des rares États à avoir des règles – Maryland Matters

Alors que l’intelligence artificielle se fraye un chemin dans des aspects de la vie quotidienne et devient de plus en plus avancée, certains législateurs des États ressentent une nouvelle urgence à créer des réglementations pour son utilisation dans le processus d’embauche.

L’intelligence artificielle, communément appelée IA, a été adoptée par un quart des entreprises aux États-Unis, selon l’IBMGlobal AI Adoption Index 2022, soit un bond de plus de 13 % par rapport à l’année précédente. Beaucoup commencent à l’utiliser dans le processus d’embauche.

Les lois de l’État n’ont pas suivi. Seuls l’Illinois, le Maryland et la ville de New York exigent que les employeurs demandent d’abord le consentement s’ils utilisent l’IA pendant certaines parties du processus d’embauche. Une poignée d’États envisagent une législation similaire.

Les législateurs sont critiques et, comme toujours, les législateurs sont toujours en retard à la fête, a déclaré l’État du Maryland Del. Mark Fisher, un républicain du comté de Calvert. Fisher a parrainé la loi du Marylands, promulguée en 2020, réglementant l’utilisation des programmes de reconnaissance faciale lors de l’embauche. Il interdit à un employeur d’utiliser certains services de reconnaissance faciale tels que ceux qui pourraient recouper les visages des candidats avec des bases de données extérieures lors d’un processus d’entretien avec les candidats, sauf si le candidat y consent.

La technologie innove d’abord, puis cela semble toujours être une bonne idée, jusqu’à ce que ce ne soit pas le cas, a déclaré Fisher. C’est alors que les législateurs interviennent et essaient de réglementer les choses du mieux qu’ils peuvent.

Là où les développeurs d’IA souhaitent innover aussi vite que possible avec ou sans législation, les développeurs et les décideurs doivent réfléchir aux implications de leurs décisions, a déclaré Hayley Tsukayama, militante législative senior à l’Electronic Frontier Foundation, qui défend les libertés civiles sur Internet.

Pour que les décideurs politiques rédigent une législation efficace, les développeurs doivent être transparents sur les systèmes utilisés et ouverts à l’examen des problèmes potentiels, a déclaré Tsukayama.

Ce n’est probablement pas excitant pour les personnes qui veulent aller plus vite ou pour les personnes qui veulent mettre ces systèmes sur leur lieu de travail en ce moment ou qui les ont déjà sur le lieu de travail en ce moment, a-t-elle déclaré. Mais je pense que pour les décideurs politiques, il est vraiment important de parler à beaucoup de personnes différentes, en particulier les personnes qui vont être affectées par cela.

L’IA dans l’embauche

L’IA peut aider au processus d’embauche en effectuant des évaluations de CV, en planifiant des entretiens avec les candidats et en fournissant des données, selon une analyse de Skillroads, qui fournit des services professionnels de rédaction de CV qui intègrent l’IA.

Certains membres du Congrès tentent également d’agir. La proposition de loi américaine sur la confidentialité et la protection des données vise à établir des règles pour l’intelligence artificielle, y compris les évaluations des risques de l’IA et son utilisation globale, et couvrirait les données collectées au cours du processus d’embauche. Introduit l’année dernière par le représentant américain Frank Pallone Jr., un démocrate du New Jersey, il siège actuellement au US House Energy and Commerce Committee.

L’année dernière, l’administration Biden a publié le Blueprint for an AI Bill of Rights, un ensemble de principes pour guider les organisations et les individus dans la conception, l’utilisation et le déploiement de systèmes automatisés, selon le document.

Entre-temps, les législateurs de certains États et localités ont travaillé à la création de politiques.

Le Maryland, l’Illinois et la ville de New York sont les seuls endroits dotés de lois explicites pour les demandeurs d’emploi traitant de l’intelligence artificielle pendant le processus d’embauche en obligeant les entreprises à les informer lorsqu’elle est utilisée à certains moments et à demander le consentement avant d’aller de l’avant, selon les données de Bryan Cave Leighton Paisner, un cabinet d’avocats mondial fournissant des conseils juridiques aux clients concernant les litiges commerciaux, la finance, l’immobilier et plus encore.

La Californie, le New Jersey, New York et le Vermont ont également envisagé des projets de loi qui réglementeraient l’IA dans les systèmes d’embauche, selon le New York Times.

La technologie de reconnaissance faciale est utilisée par de nombreuses agences fédérales, notamment pour la cybersécurité et la police, selon le US Government Accountability Office. Certaines industries l’utilisent également.

L’intelligence artificielle peut relier les programmes de reconnaissance faciale aux bases de données des candidats en quelques secondes, a déclaré Fisher, qu’il a cité comme la préoccupation qui a motivé son projet de loi.

Son objectif, a-t-il dit, était d’élaborer une mesure étroite qui pourrait ouvrir la porte à une future législation potentielle sur l’IA. Le projet de loi, qui est entré en vigueur en 2020 sans être promulgué par le gouvernement de l’époque. Larry Hogan, un républicain, n’inclut que le secteur privé, mais Fisher a déclaré qu’il souhaitait qu’il soit élargi pour inclure les employeurs publics.

Défis législatifs

La compréhension des décideurs politiques de l’intelligence artificielle, en particulier en ce qui concerne ses implications en matière de droits civils, est presque inexistante, a déclaré Clarence Okoh, conseiller politique principal au Center for Law and Social Policy (CLASP) à but non lucratif basé à Washington, DC et membre du Conseil de recherche en sciences sociales Just Tech Fellow.

En conséquence, a-t-il déclaré, les entreprises qui utilisent l’IA se réglementent souvent elles-mêmes.

Malheureusement, je pense que ce qui s’est passé, c’est que beaucoup de développeurs d’IA et les ventes ont été très efficaces pour évincer la conversation avec les décideurs politiques sur la façon de gouverner l’IA et d’atténuer les conséquences sociales, a déclaré Okoh. Et donc, malheureusement, il y a beaucoup d’intérêt pour le développement de systèmes d’autorégulation.

Certaines pratiques d’autorégulation incluent des audits ou une conformité qui utilisent des orientations générales telles que le Plan directeur pour une déclaration des droits de l’IA, a déclaré Okoh.

Les résultats ont parfois suscité des inquiétudes. Certaines organisations opérant selon leurs propres directives ont utilisé des outils de recrutement d’IA qui ont montré des biais.

En 2014, un groupe de développeurs d’Amazon a commencé à créer un programme expérimental et automatisé pour examiner les CV des candidats pour les meilleurs talents, selon une enquête de Reuters, mais en 2015, la société a constaté que son système avait effectivement appris que les candidats masculins étaient préférables.

Des personnes proches du projet ont déclaré à Reuters que le système expérimental avait été formé pour filtrer les candidats en observant des schémas dans les CV soumis à l’entreprise sur une période de 10 ans, dont la plupart provenaient d’hommes. Amazon a déclaré à Reuters que l’outil n’avait jamais été utilisé par les recruteurs d’Amazon pour évaluer les candidats.

Mais certaines entreprises disent que l’IA est utile et que des règles d’éthique strictes sont en place.

Helena Almeida, vice-présidente-directrice juridique chez ADP, une société de logiciels de gestion des ressources humaines, affirme que son approche de l’utilisation de l’intelligence artificielle dans ses produits suit les mêmes directives éthiques qu’avant l’émergence de la technologie. Indépendamment des exigences légales, a déclaré Almeida, ADP considère comme une obligation d’aller au-delà du cadre de base pour s’assurer que ses produits ne font pas de discrimination.

L’intelligence artificielle et l’apprentissage automatique sont utilisés dans plusieurs services d’aide à l’embauche d’ADP. Et de nombreuses lois actuelles s’appliquent au monde de l’intelligence artificielle, a-t-elle déclaré. ADP propose également à ses clients certains services qui utilisent la technologie de reconnaissance faciale, selon son site Internet. À mesure que la technologie évolue, ADP a adopté un ensemble de principes pour régir son utilisation de l’IA, de l’apprentissage automatique et plus encore.

Vous ne pouvez pas discriminer un groupe démographique particulier sans IA, et vous ne pouvez pas non plus le faire avec l’IA, a déclaré Almeida. C’est donc une partie essentielle de notre cadre et de la façon dont nous examinons les biais dans ces outils.

Une façon d’éviter les problèmes d’IA dans le processus d’embauche est de maintenir l’implication humaine, de la conception du produit au suivi régulier des décisions automatisées.

SamanthaGordon, responsable des programmes chez TechEquity Collaborative, une organisation qui défend les travailleurs de la technologie dans l’industrie, a déclaré que dans les situations où l’apprentissage automatique ou la collecte de données est utilisé sans intervention humaine, la machine risque d’être biaisée envers certains groupes.

Dans un exemple, HireVue, une plateforme aidant les employeurs à collecter des entretiens vidéo et des évaluations de demandeurs d’emploi, a annoncé en 2021 la suppression de son composant d’analyse faciale après avoir constaté lors d’un examen interne que le système avait moins de corrélation avec les performances au travail que d’autres éléments de l’évaluation algorithmique, selon un communiqué de l’organisation.

Je pense que c’est la chose que vous n’avez pas besoin d’être un informaticien pour comprendre, a déclaré Gordon. Accélérer le processus d’embauche, dit-elle, laisse place à l’erreur. C’est là que Gordon a dit que les législateurs vont devoir intervenir.

Et des deux côtés de l’allée, a déclaré Fisher, les législateurs pensent que les entreprises doivent montrer leur travail.

J’aime à penser que, de manière générale, les gens aimeraient qu’il y ait beaucoup plus de transparence et de divulgation dans l’utilisation de cette technologie, a déclaré Fisher. Qui utilise cette technologie ? Et pourquoi?

Note de la rédaction : cet article a été corrigé pour indiquer qu’un programme d’embauche d’intelligence artificielle interne d’Amazon était expérimental et, selon l’entreprise, jamais utilisé par les recruteurs pour évaluer les candidats.