Règles d’IA nocives : maintenant présentées par Europe & Co., Inc.
Appuyez sur play pour écouter cet article
Les entreprises, dont beaucoup ne sont pas européennes, joueront un rôle clé dans la décision sur les détails des règles prévues par l’Union européenne pour l’intelligence artificielle potentiellement dangereuse. Mais l’influence des entreprises sur les décisions qui mettent en danger les droits de l’homme inquiète certains militants.
La nouvelle loi de l’UE sur l’intelligence artificielle vise à protéger les personnes contre l’IA nuisible en sévissant contre les algorithmes discriminatoires, opaques et incontrôlés qui sont de plus en plus utilisés pour porter des jugements qui changent la vie sur l’immigration, la police, les avantages sociaux et la scolarisation.
Les règles ne ciblent pas les « types normaux de produits », mais visent à stopper « la violation potentielle des droits constitutionnels, qu’il s’agisse de l’utilisation de la surveillance biométrique, de la discrimination ou de votre accès à l’emploi et à l’éducation », a déclaré Iverna McGowan, directrice du Centre pour la démocratie et la technologie en Europe. Elle critique confier à des groupes européens de normalisation « dominés par le secteur privé » le soin de façonner les règles finales.
Mais c’est ainsi que la loi sur l’intelligence artificielle de l’UE est conçue. Il s’appuie sur des forums de l’industrie, tels que le CEN-CENELEC et l’ETSI, pour décrire les instructions techniques qui garantissent que les systèmes d’IA sont formés sur des données impartiales et déterminent finalement le degré de surveillance humaine nécessaire et ce qui doit être fait pour empêcher le logiciel de s’éteindre. -Piste.
L’ETSI, basé en France, compte plus de 900 membres, dont des géants de la technologie comme Microsoft et les plateformes mères de Facebook, ainsi que des sociétés de défense européennes comme Thales et le fournisseur chinois d’équipements de télécommunications Huawei. Le groupe ETSI qui coordonne les travaux sur l’IA est dirigé par des dirigeants de la société de télécommunications japonaise NEC, de Huawei basé en Chine et du fabricant de puces américain Intel.
L’organisation ETSI a ce que des chercheurs au Royaume-Uni ont décrit comme un modèle de paiement pour jouer qui donne aux membres payant des frais d’abonnement plus élevés plus de votes lors des réunions. Cette composition peut donner un avantage aux sociétés plus grandes et plus riches, ainsi qu’aux entreprises mondiales capables de signer de nombreux chapitres nationaux en tant que membres distincts. Huawei, par exemple, est représenté par six membres (de Huawei Technologies à HUAWEI TECH. GmbH).
Le CEN-CENELEC comprend des experts en normes industrielles de 34 pays européens, dont certains de pays non membres de l’UE tels que le Royaume-Uni, la Serbie et la Turquie. Le groupe représente en fin de compte des milliers d’entreprises européennes et non européennes.
Cependant, certains disent que la participation d’entreprises non européennes les incitera également à adopter les normes industrielles européennes, car les entreprises qui construisent des systèmes d’IA à haut risque devront évaluer leur propre conformité en suivant les normes industrielles mondiales.
Conflit d’intérêt
Les organismes de normalisation établissent les règles qui font fonctionner les produits et les services. Ils établissent des spécifications techniques pour déterminer la qualité et la sécurité de tout, des ours en peluche et des batteries aux machines compliquées et même aux transferts de données. Des groupes européens comme le CEN-CENELEC et l’ETSI ont joué un rôle crucial pour amener les entreprises de télécommunications à s’entendre sur des normes mondiales partagées pour les réseaux mobiles et la cybersécurité.
Mais utiliser les bureaucrates de l’industrie pour comprendre comment intégrer l’éthique dans l’IA est un pas trop loin pour certains alors que l’objectif principal des entreprises est de s’emparer d’une partie d’un marché mondial de l’IA estimé à plus de 1 000 milliards de dollars d’ici 2029.
L’intelligence artificielle est une entreprise extrêmement rentable qui remodèle plusieurs domaines de la société et ne sera pas réparée par une législation qui la traite comme un jouet, une radio ou un équipement de protection, a déclaré Michael Veale, professeur agrégé en numérique. droits et réglementation à l’University College de Londres.
Les entreprises se concentrent sur la mise « de produits sur le marché, mais la loi sur l’IA cherche à limiter les dommages », a déclaré Kris Shrishak, chercheur en technologie au Conseil irlandais pour les libertés civiles.
Les ingénieurs et les experts techniques des groupes de normalisation seront probablement aux prises avec des questions éthiques lorsqu’ils seront chargés de traduire une loi sur l’IA en normes, a déclaré Shrishak. Ils devront décider ce qui constitue des ensembles de données équitables et représentatifs pour les algorithmes, l’étendue de la documentation, la transparence et le contrôle humain pour un programme d’IA.
Ces décisions sont cruciales. Des données erronées au cœur des programmes d’IA peuvent renforcer les inégalités sociales et les préjugés et avoir des conséquences considérables, telles que des diagnostics erronés de maladies pour les groupes raciaux minoritaires et la limitation des opportunités d’emploi pour les femmes.
Normes éthiques et géopolitiques
Les groupes de normalisation ne se considèrent pas comme des véhicules d’influence des entreprises. Ils voient en effet que leurs méthodes de travail montrent qu’ils peuvent arriver à « des solutions qui tiennent compte de tous les points de vue, selon Markus Mueck, ingénieur Intel et premier vice-président du groupe de coordination de l’ETSI sur l’IA.
On ne leur demande pas « de commencer à développer des normes sur l’éthique », mais simplement de les mettre en œuvre, a déclaré Constant Kohler, qui gère les travaux sur l’IA pour le CEN-CENELEC.
La Commission européenne a déclaré qu’elle aurait le dernier mot dans la vérification des normes rédigées pour la loi sur l’IA. Il souhaite également que les groupes de normalisation européens impliquent les militants des droits de l’homme dans la prise de décision sur l’IA nuisible.
Dans le même temps, les groupes de normalisation sont sous pression pour revoir leur fonctionnement alors que les tensions géopolitiques se multiplient sur les chaînes d’approvisionnement. La Commission pousse les organismes de normalisation à limiter l’influence des grandes entreprises et à réformer leur gouvernance d’ici 2022 pour « représenter pleinement l’intérêt public ». En effet, cela signifie recruter plus d’organisations non gouvernementales et réduire le pouvoir des entreprises non européennes.
Le député européen Renew Drago Tudorache, l’un des référents du Parlement européen sur les règles de l’IA, estime que l’industrie devrait continuer à diriger l’établissement de normes, mais souhaite que les règles aillent un peu plus loin en interdisant aux entreprises contrôlées par certains régimes autoritaires de l’établissement de normes industrielles.
« L’industrie n’est pas l’ennemie », a-t-il dit, mais elle a désormais « une responsabilité accrue… dans la construction de la voie numérique de l’Europe ».
Cet article a été mis à jour pour mieux clarifier Position du député européen Drago Tudorache sur la normalisation de l’industrie.
Cet article fait partie de POLITICO Pro
La solution à guichet unique pour les professionnels des politiques fusionnant la profondeur du journalisme POLITICO avec la puissance de la technologie
Des scoops et des idées exclusives et inédites
Plate-forme de renseignements sur les politiques personnalisée
Un réseau d’affaires publiques de haut niveau
