Pour une IA vraiment éthique, sa recherche doit être indépendante des grandes technologies | Timnit Gebru

Il y a un an, j’ai découvert, par l’un de mes subordonnés directs, que j’avais apparemment démissionné. Je venais d’être viré de Google de l’une des manières les plus irrespectueuses que je puisse imaginer.

Grâce à l’organisation d’anciens et actuels employés de Google et de bien d’autres, Google n’a pas réussi à salir mon travail ou ma réputation, bien qu’ils aient essayé. Mon licenciement a fait la une des journaux à cause de l’organisation des travailleurs qui s’est développée dans le monde de la technologie, souvent à cause du travail de personnes déjà marginalisées, dont nous ne connaissons pas beaucoup les noms. Depuis que j’ai été licencié en décembre dernier, il y a eu de nombreux développements dans l’organisation et la dénonciation des travailleurs de la technologie. Le plus médiatisé d’entre eux fut le témoignage de Frances Haugens au Congrès ; faisant écho à ce que Sophie Zhang, une data scientist licenciée de Facebook, avait déjà dit, Haugen a fait valoir que l’entreprise donne la priorité à la croissance par rapport à tout le reste, même lorsqu’elle connaît les conséquences mortelles de le faire.

J’ai vu cela se produire de première main. Le 3 novembre 2020, une guerre a éclaté en Éthiopie, le pays dans lequel je suis né et j’ai grandi. Les effets immédiats de la désinformation incontrôlée, des discours de haine et des faits alternatifs sur les réseaux sociaux ont été dévastateurs. Le 30 octobre de cette année, moi-même et beaucoup d’autres avons signalé une appel clair au génocide en amharique vers Facebook. La société a répondu en affirmant que la publication n’enfreignait pas ses politiques. Ce n’est qu’après que de nombreux journalistes ont demandé à l’entreprise pourquoi cet appel clair au génocide ne violait pas les politiques de Facebook et ce n’est qu’après que le message avait déjà été partagé, aimé et commenté par beaucoup que l’entreprise l’a supprimé.

D’autres plateformes comme YouTube n’ont pas reçu l’examen minutieux qu’elles méritent, malgré des études et des articles montrant des exemples de la façon dont elles sont utilisées par divers groupes, y compris des régimes, pour harceler les citoyens. Twitter et surtout TikTok, Telegram et Clubhouse ont les mêmes problèmes mais sont beaucoup moins abordés. Lorsque j’ai écrit un article décrivant les dommages causés par les modèles entraînés à l’aide des données de ces plates-formes, j’ai été licencié par Google.

Lorsque les gens demandent quelles réglementations doivent être en place pour nous protéger des utilisations dangereuses de l’IA que nous avons vues, je commence toujours par les protections du travail et les mesures antitrust. Je peux dire que certaines personnes trouvent cette réponse décevante peut-être parce qu’elles s’attendent à ce que je mentionne des réglementations spécifiques à la technologie elle-même. Bien que ceux-ci soient importants, la chose n°1 qui nous protégerait des utilisations dangereuses de l’IA est de limiter le pouvoir des entreprises qui la développent et d’augmenter le pouvoir de ceux qui dénoncent les méfaits de l’IA et les pratiques de ces entreprises. Grâce au travail acharné d’Ifeoma Ozoma et de ses collaborateurs, la Californie a récemment adopté la loi Silenced No More, rendant illégal le fait d’empêcher les travailleurs de parler du racisme, du harcèlement et d’autres formes d’abus sur le lieu de travail. Cela doit être universel. En outre, nous avons besoin de sanctions beaucoup plus sévères contre les entreprises qui enfreignent les lois déjà existantes, telles que l’agressivité antisyndicale d’Amazon. Lorsque les travailleurs ont le pouvoir, cela crée une couche de freins et de contrepoids sur les milliardaires de la technologie dont les décisions capricieuses affectent de plus en plus le monde entier.

Je vois aussi ce monopole en dehors des grandes technologies. J’ai récemment lancé un institut de recherche sur l’IA qui espère fonctionner avec des incitations différentes de celles des grandes entreprises technologiques et des institutions universitaires d’élite qui les alimentent. Au cours de cette entreprise, j’ai remarqué que les mêmes grands leaders technologiques qui repoussent les gens comme moi sont également les leaders qui contrôlent la grande philanthropie et le programme des gouvernements pour l’avenir de la recherche en IA. Si je prends la parole et m’oppose à un bailleur de fonds potentiel, ce n’est pas seulement mon travail en jeu, mais celui des autres à l’institut. Et bien qu’il existe des lois, bien qu’inadaptées, qui tentent de protéger l’organisation des travailleurs, il n’y a rien de tel dans le monde de la collecte de fonds.

Alors, quelle est la voie à suivre ? Afin d’avoir vraiment des freins et contrepoids, nous ne devrions pas avoir les mêmes personnes qui définissent les programmes des grandes technologies, de la recherche, du gouvernement et du secteur à but non lucratif. Nous avons besoin d’alternatives. Nous avons besoin que les gouvernements du monde entier investissent dans les communautés en construisant une technologie qui leur profite réellement, plutôt que de poursuivre un programme défini par les grandes technologies ou l’armée. Contrairement à la rhétorique de style guerre froide des grands dirigeants technologiques sur une course aux armements, ce qui étouffe vraiment l’innovation, c’est l’arrangement actuel où quelques personnes construisent une technologie nuisible et d’autres travaillent constamment pour prévenir les dommages, incapables de trouver le temps, l’espace ou les ressources pour mettre en œuvre leur propre vision de l’avenir.

Nous avons besoin d’une source indépendante de financement gouvernemental pour nourrir des instituts de recherche indépendants en IA qui peuvent être des alternatives au pouvoir extrêmement concentré de quelques grandes entreprises technologiques et des universités d’élite qui leur sont étroitement liées. Ce n’est que lorsque nous changerons la structure des incitations que nous verrons une technologie qui donne la priorité au bien-être des citoyens plutôt qu’une course continue pour trouver comment tuer plus de personnes plus efficacement, ou faire le plus d’argent pour une poignée d’entreprises à travers le monde.