Une étude d’IBM révèle l’évolution des sentiments autour de l’éthique de l’IA

Une nouvelle étude de l’IBM Institute for Business Value (IBV) a révélé un changement radical dans les rôles responsables de la direction et du respect de l’éthique de l’IA dans une organisation.

Lorsqu’on leur a demandé quelle fonction était principalement responsable de l’éthique de l’IA, 80 % des personnes interrogées ont désigné un cadre non technique, tel qu’un PDG, comme le principal « champion » de l’éthique de l’IA, une forte augmentation par rapport à 15 % en 2018.

L’étude mondiale indique également qu’en dépit d’un impératif fort pour faire progresser une IA digne de confiance, y compris de meilleures performances par rapport aux pairs en matière de durabilité, de responsabilité sociale, de diversité et d’inclusion, il reste un écart entre l’intention des dirigeants et les actions significatives.

L’étude a révélé que les dirigeants d’entreprise sont désormais considérés comme la force motrice de l’éthique de l’IA :

• Les PDG (28 %), mais aussi les membres du conseil d’administration (10 %), les avocats généraux (10 %), les responsables de la confidentialité (8 %) et les responsables des risques et de la conformité (6 %) sont considérés comme les plus responsables de l’éthique de l’IA par les personnes interrogées .
• Alors que 66 % des répondants citent le PDG ou un autre cadre supérieur comme ayant une forte influence sur la stratégie éthique de leur organisation, plus de la moitié citent les directives du conseil d’administration (58 %) et la communauté des actionnaires (53 %).

Construire une IA digne de confiance est perçu comme un différenciateur stratégique et les organisations commencent à mettre en place des mécanismes d’éthique de l’IA :

• Plus des trois quarts des chefs d’entreprise interrogés cette année conviennent que l’éthique de l’IA est importante pour leurs organisations, contre environ 50 % en 2018.
• Dans le même temps, 75 % des personnes interrogées pensent que l’éthique est une source de différenciation concurrentielle, et plus de 67 % des personnes interrogées qui considèrent l’IA et l’éthique de l’IA comme importantes indiquent que leurs organisations surpassent leurs pairs en matière de durabilité, de responsabilité sociale, de diversité et d’inclusion.
• De nombreuses entreprises ont commencé à faire des progrès. En fait, plus de la moitié des répondants affirment que leurs organisations ont pris des mesures pour intégrer l’éthique de l’IA dans leur approche existante de l’éthique des affaires.
• Plus de 45 % des personnes interrogées affirment que leurs organisations ont créé des mécanismes éthiques spécifiques à l’IA, tels qu’un cadre d’évaluation des risques des projets d’IA et un processus d’audit/d’examen.

S’assurer que les principes éthiques sont intégrés dans les solutions d’IA est un besoin urgent pour les organisations, mais les progrès sont encore trop lents :

• Un plus grand nombre de PDG interrogés (79 %) sont désormais prêts à intégrer l’éthique de l’IA dans leurs pratiques en matière d’IA, contre 20 % en 2018, et plus de la moitié des organisations interrogées ont publiquement approuvé les principes communs de l’éthique de l’IA.
• Pourtant, moins d’un quart des organisations interrogées ont opérationnalisé l’éthique de l’IA, et moins de 20 % des personnes interrogées sont tout à fait d’accord pour dire que les pratiques et actions de leur organisation correspondent (ou dépassent) leurs principes et valeurs déclarés.
• 68 % des organisations interrogées reconnaissent qu’il est important d’avoir un lieu de travail diversifié et inclusif pour atténuer les préjugés dans l’IA, mais les résultats indiquent que les équipes d’IA sont encore nettement moins diversifiées que les effectifs de leurs organisations : 5,5 fois moins inclusives de femmes, 4 fois moins inclusives de personnes LGBT+ et 1,7 fois moins inclusif sur le plan racial.

Jesus Mantas, associé directeur mondial d’IBM Consulting, déclare : « Comme de nombreuses entreprises utilisent aujourd’hui des algorithmes d’intelligence artificielle dans l’ensemble de leur entreprise, elles sont potentiellement confrontées à des demandes internes et externes croissantes pour concevoir ces algorithmes afin qu’ils soient équitables, sécurisés et dignes de confiance ; pourtant, il y a eu peu de progrès à travers le l’industrie à intégrer l’éthique de l’IA dans leurs pratiques.

« Les résultats de notre étude IBV démontrent que la création d’une IA digne de confiance est un impératif commercial et une attente sociétale, et pas seulement un problème de conformité. Ainsi, les entreprises peuvent mettre en œuvre un modèle de gouvernance et intégrer des principes éthiques tout au long du cycle de vie de l’IA.

Le moment est venu pour les entreprises d’agir, déclarent les chercheurs. Les données de l’étude suggèrent que les organisations qui mettent en œuvre une vaste stratégie d’éthique de l’IA entrelacée dans toutes les unités commerciales peuvent avoir un avantage concurrentiel à l’avenir.

L’étude propose des actions recommandées pour les chefs d’entreprise, notamment :

• Adopter une approche interfonctionnelle et collaborative : selon les chercheurs, l’IA éthique nécessite une approche holistique et un ensemble holistique de compétences parmi toutes les parties prenantes impliquées dans le processus d’éthique de l’IA. Les dirigeants, les concepteurs, les spécialistes des sciences du comportement, les scientifiques des données et les ingénieurs de l’IA de C-Suite ont chacun un rôle distinct à jouer dans le parcours de l’IA digne de confiance.
• Établir à la fois une gouvernance organisationnelle et du cycle de vie de l’IA pour opérationnaliser la discipline de l’éthique de l’IA. Cela signifie adopter une approche holistique pour inciter, gérer et gouverner les solutions d’IA tout au long du cycle de vie de l’IA, de l’établissement de la bonne culture pour entretenir l’IA de manière responsable, aux pratiques et politiques en passant par les produits.
• Aller au-delà de l’organisation pour le partenariat : élargissez votre approche en identifiant et en engageant des partenaires technologiques clés axés sur l’IA, des universitaires, des startups et d’autres partenaires de l’écosystème pour établir une « interopérabilité éthique ».