L’intelligence artificielle pourrait-elle bénéficier à la démocratie ? – Nouvelles de la BBC

Les inquiétudes concernant l’intelligence artificielle (IA) qui détruit les élections et menace la démocratie ont atteint leur paroxysme.

Chaque semaine voit une nouvelle série d’avertissements sur l’impact potentiel des deepfakes générés par l’IA – des vidéos et des audios réalistes de politiciens disant des choses qu’ils n’ont jamais dites – semant la confusion et la méfiance parmi les électeurs.

Et au Royaume-Uni, les régulateurs, les services de sécurité et le gouvernement se battent pour protéger les élections générales de cette année contre toute ingérence étrangère malveillante.

Moins d’attention a été accordée aux avantages possibles de l’IA.

Mais de nombreux travaux sont en cours, souvent inaperçus, pour tenter d’exploiter son pouvoir de manière à renforcer la démocratie plutôt que de la détruire.

« Bien que cette technologie présente des risques importants en termes de désinformation, elle offre également des opportunités significatives pour les campagnes, que nous ne pouvons pas ignorer », a déclaré Hannah O’Rourke, co-fondatrice de Campaign Lab, un réseau de technologie de gauche. bénévoles, dit.

« Comme toute technologie, ce qui compte, c’est la manière dont l’IA est réellement mise en œuvre.

« Son impact se fera sentir dans la manière dont les militants l’utiliseront réellement. »

Entre autres choses, Campaign Lab organise des cours de formation pour les militants travaillistes et libéraux-démocrates sur la façon d’utiliser ChatGPT (Chat Generative Pre-trained Transformer) pour créer la première ébauche de tracts électoraux.

Cela leur rappelle cependant de modifier soigneusement le produit final, car les grands modèles de langage (LLM) tels que ChatGPT ont une tendance inquiétante à « halluciner » ou à inventer des choses.

Le groupe expérimente également des chatbots pour aider à former les solliciteurs à avoir des conversations plus engageantes à leur porte.

L’IA est déjà intégrée dans les programmes quotidiens, de Microsoft Outlook à Adobe Photoshop, dit Mme O’Rourke, alors pourquoi ne pas l’utiliser de manière responsable afin de libérer du temps pour davantage de campagnes en face à face ?

« La désinformation générée par l’IA ne fonctionne tout simplement pas lorsque les politiciens entretiennent de bonnes relations avec les électeurs et les communautés qu’ils représentent, lorsqu’ils tiennent réellement leurs promesses.

« Vous ne pouvez pas prétendre qu’un parc local que quelqu’un passe tous les jours a été nettoyé, tout comme vous ne pouvez pas simuler une conversation devant une porte. »

Joe Reeve, expert en IA et partisan des conservateurs, est un autre jeune militant politique convaincu que les nouvelles technologies peuvent améliorer les choses.

Il dirige Future London, une communauté de « techno optimistes » qui utilisent l’IA pour chercher des réponses à de grandes questions telles que « Pourquoi ne puis-je pas acheter une maison ? et, surtout, « Où est mon robot majordome ? »

En 2020, M. Reeve a fondé Tory Techs, en partie comme une réponse de droite à Campaign Lab.

Le groupe a organisé des sessions de programmation et exploré comment utiliser l’IA pour affiner les messages de campagne des conservateurs, mais, dit M. Reeve, il « se concentre désormais principalement sur les discussions avec les députés dans des espaces plus privés et plus sûrs pour aider les politiciens à comprendre ce que signifie l’IA et comment elle peut être une force positive ».

« La technologie a l’opportunité de rendre le monde bien meilleur pour beaucoup de gens et cela indépendamment de la politique », a-t-il déclaré à BBC News.

Le Royaume-Uni a déjà vu son premier candidat aux élections – et peut-être le premier au monde – doté de l’IA.

Andrew Gray a été catégoriquement rejeté par les électeurs lors des élections partielles de Selby et Ainsty en juillet, n’obtenant que 99 voix.

Ce fut une expérience déchirante pour l’ancien avocat, qui s’est présenté comme candidat indépendant « propulsé par AI », dans l’espoir de provoquer un séisme politique.

Mais les électeurs de la circonscription rurale du North Yorkshire n’étaient pas prêts pour un concept aussi « nouveau », dit-il, et en étaient souvent simplement désorientés.

« Lorsque les électeurs m’envoyaient des messages, ils pensaient souvent que j’étais un robot. »

La campagne de M. Gray était basée sur Polis, un outil basé sur l’IA qui permet à des groupes ayant des opinions très différentes de parvenir à un consensus par le biais de votes et de discussions.

Polis est apparu pour la première fois sur le radar politique lorsqu’il a été utilisé par le gouvernement taïwanais pour régler des questions controversées, telles que la légalité des scooters électriques.

M. Gray l’a utilisé pour produire un « manifeste populaire » pour Selby et Ainsty et prévoyait de l’utiliser pour consulter les électeurs sur la manière de voter à la Chambre des communes.

Il reste fermement convaincu du pouvoir de Polis pour combler les divisions politiques et rassembler les gens, mais il estime qu’il pourrait être mieux adapté pour résoudre les controverses locales, plutôt que d’aborder les questions nationales majeures à Westminster, du moins pour le moment.

Les critiques diront que Polis et d’autres programmes de prise de décision assistés par l’IA commercialisés auprès des autorités locales sont toujours susceptibles d’être manipulés pour produire les résultats souhaités par les politiciens, comme les faux exercices de consultation appréciés par une génération précédente de dirigeants.

Mais la puissance de la technologie de l’IA – et sa capacité à traiter de grandes quantités de données – promet d’offrir des informations bien plus approfondies sur ce que pensent et ressentent les électeurs et les électeurs.

Deltapoll travaille avec la start-up technologique Bombe, qui utilise l’IA pour analyser les données de sondage collectées à partir d’échantillons plus petits.

Et M. Twyman s’empresse de rejeter l’idée que les LLM pourraient être utilisés pour simuler les électeurs.

En 2022, des chercheurs américains ont affirmé que les résultats étaient impossibles à distinguer de ceux de vrais humains répondant à un sondage.

Mais M. Twyman affirme que les gens sont plus complexes et imprévisibles que les machines formées sur les données existantes et que les « sondages synthétiques » n’auraient « aucune valeur ».

Cependant, il admet qu’il est impossible de savoir exactement lesquels, parmi le nombre croissant d’outils d’IA proposés aux campagnes politiques, auront le vent en poupe.

« Certaines d’entre elles seront incroyablement puissantes, d’autres seront des absurdités totales promues par des vendeurs d’huile de serpent exploitant la prochaine grande nouveauté et il y aura certaines choses dont nous n’entendrons jamais parler et qui pourraient potentiellement faire une grande différence », a déclaré M. Twyman. .

La plupart des optimistes du secteur technologique s’inquiètent du potentiel de la désinformation alimentée par l’IA qui pourrait faire des ravages lors des élections, d’autant plus qu’en 2024, on estime que 49 % de la population mondiale se rendra aux urnes.

Et les avantages pour la démocratie de cette technologie puissante et en évolution rapide peuvent sembler marginaux, si on les compare aux dégâts qu’elle pourrait causer.

Mais personne ne peut prédire comment cela va se dérouler : la seule certitude est que l’IA est là pour rester et que la politique ne sera plus jamais la même.