L’intelligence artificielle et l’horizon toujours plus lointain du futur
Jenna Burrell est directrice de la recherche chez Data & Society.
En 2010, Paul Dourish et Genevieve Bell ont écrit un livre sur l’innovation technologique qui décrivait la façon dont les technologues se fixent sur l’avenir proche, un avenir qui existe juste au coin de la rue. Les auteurs, l’un informaticien et l’autre vétéran de l’industrie technologique, examinaient les développements technologiques émergents dans l’informatique omniprésente, qui promettaient que les capteurs, les appareils mobiles et les minuscules ordinateurs intégrés dans notre environnement conduiraient à la facilité, à l’efficacité et à la généralité. qualité de vie. Dourish et Bell soutiennent que cette orientation vers l’avenir nous distrait du présent tout en dégageant les technologues de la responsabilité de l’ici et maintenant.
Nous vivons maintenant vraisemblablement dans une version de cet avenir, dépendant de machines à laver connectées au wifi, de haut-parleurs intelligents qui gardent nos listes de courses pour nous et d’étiquettes RFID qui aident à localiser le précieux jouet préféré d’un enfant (tous les appareils utilisés dans ma maison) . Pourtant, notre engagement avec la technologie n’a pas supprimé les luttes, les corvées et l’ennui de nos vies. Bien qu’il ait incontestablement modifié nos relations sociales, il ne nous a pas miraculeusement donné plus de temps pour nous concentrer sur eux. Avec le bon est venu le mauvais, le décevant, le maladroit et l’intraitable. Pendant ce temps, les futuristes technophiles continuent de former leur vision à l’horizon, et les derniers titres sur l’intelligence artificielle servent à garder nos yeux fixés là-bas, plutôt que sur le présent désordonné et les dilemmes à nos portes.
Dominant le cycle actuel des nouvelles, une déclaration de 22 mots, signée par des dirigeants et d’autres chercheurs, déclare sans ambages que l’atténuation du risque d’extinction de l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle de la société tels que les pandémies et la guerre nucléaire. Avec son ton d’urgence maximale (et faisant suite à un appel similaire, bien que plus verbeux, à une pause sur l’IA), la déclaration semble vouloir noyer d’autres priorités et conversations sur l’IA qui, ne vous y trompez pas, sont légion. Des préjugés raciaux dans la reconnaissance faciale aux violations de la vie privée dans la collecte de données, en passant par l’exploitation de la main-d’œuvre dans la construction de ces systèmes, bon nombre de ces défis n’ont pas de solutions faciles, certainement pas celles qui donnent la priorité aux intérêts commerciaux et à la rentabilité maximale.
Regarder vers un avenir proche, même aussi sombre et inquiétant que la menace existentielle imaginée par l’IA, a une certaine valeur stratégique pour ceux qui ont des intérêts et des investissements dans le secteur de l’IA : cela crée une urgence, mais est finalement infalsifiable. Quelque chose qui n’est pas encore réalisé ne peut être réfuté. Dans ce contexte, considérez le fait que le PDG d’OpenAI, Sam Altman (la société responsable de ChatGPT) a signé l’alarmisme de ces 22 mots. Le timing n’est peut-être pas un hasard. Alors que l’UE se dirige vers une réglementation importante de l’IA, Altman a récemment suggéré qu’une telle réglementation pourrait forcer son entreprise à se retirer de l’Europe. Le règlement européen proposé, bien sûr, est axé sur la protection du droit d’auteur, le droit à la vie privée et suggère d’interdire certaines utilisations de l’IA, en particulier pour contrôler toutes les préoccupations d’aujourd’hui. Cette réalité s’avère beaucoup plus difficile à affronter pour les partisans de l’IA qu’un avenir spéculatif.
Avec les méfaits de l’IA (tels que documentés par des organisations à but non lucratif comme DAIR et AJL, ainsi que par de nombreux spécialistes de l’éthique de l’IA et des médias) faisant l’objet d’une attention et d’un examen publics croissants, l’optimisme allègre de l’ancien futurisme semble désormais désemparé. En réponse, nous voyons ceux qui construisent la technologie reconnaître enfin que ce n’est pas intrinsèquement une force pour le bien. A l’ère des réseaux sociaux, les anciennes prédictions peuvent aussi revenir hanter leurs auteurs. La prédiction de l’informaticien Geoff Hintons selon laquelle les radiologues deviendraient obsolètes, remplacés par l’IA diagnostique, a été extrait des archives alors que nous sommes confrontés à une grave pénurie de radiologues à laquelle l’IA est loin de remédier. Les anciennes déclarations d’Elon Musk sur la façon dont les voitures autonomes surpasseraient et remplaceraient de manière imminente les conducteurs humains peuvent être retenues contre le vidage de données des dénonciateurs de Tesla qui montre que les problèmes de sécurité avec le système sont toujours d’actualité. Nous pouvons tous participer à l’effort d’examiner ces prédictions par rapport à la réalité de ce qui se passe actuellement, et de réévaluer l’autorité et la fiabilité de ceux qui les ont faites.
Lorsque de puissantes personnalités de la technologie s’unissent derrière une déclaration accrocheuse alléguant des superpuissances de l’IA, elles disent également, comme l’a fait le magicien d’Oz, ne faites pas attention à l’homme derrière le rideau. Ils disent que le pouvoir réside dans la machine. Ils nous détournent de l’énorme quantité de richesse et de pouvoir qu’ils pourraient tirer de la montée en puissance de l’IA et du fait qu’il n’est pas nécessaire qu’il en soit ainsi. Ils aimeraient sauter le vrai travail d’aujourd’hui, celui de relever les défis et de lutter avec les possibilités qui façonneront le monde à venir. Au lieu de cela, ils nous demandent de regarder vers l’avenir, mais ils oublient que l’avenir nous appartient à tous.
Jenna Burrell est directrice de recherche Data & Society. Elle supervise tous les aspects du programme de recherche de l’institut, assurant la rigueur et l’intégrité de son travail. Avant de rejoindre D&S, elle était professeur à la École de l’information à UC Berkeley. Ses recherches portent sur la façon dont les communautés marginalisées adaptent les technologies numériques pour répondre à leurs besoins et poursuivre leurs objectifs et leurs idéaux.