Le cas de l’IA ascendante

ChatGPT et d’autres outils d’intelligence artificielle générative gagnent en popularité. Si vous avez déjà utilisé ces outils, vous vous êtes peut-être rendu compte que vous révélez vos pensées (et éventuellement vos émotions) à travers vos questions et vos interactions avec les plateformes d’IA. Vous pouvez donc imaginer l’énorme quantité de données que ces outils d’IA collectent et les modèles qu’ils sont capables d’extraire de notre façon de penser.

L’impact de ces pratiques commerciales est limpide : une nouvelle économie de l’IA émerge en collectant, codifiant et monétisant les modèles dérivés de nos pensées et de nos sentiments. Les intrusions dans notre intimité et notre cognition seront bien plus importantes qu’avec les médias sociaux et les plateformes technologiques existantes.

Nous risquons donc de devenir victimes de l’esclavage du savoir où les monopoles d’IA des entreprises et/ou du gouvernement contrôlent notre accès à nos connaissances.

Ne permettons pas cela. Nous possédons nos schémas de pensée depuis des temps immémoriaux, nous devrions également posséder ceux dérivés automatiquement via l’IA. Et nous pouvons le faire !

Une façon de garantir que nous gardons le contrôle consiste à développer une IA ascendante, ce qui est à la fois techniquement possible et éthiquement souhaitable. L’IA ascendante peut émerger grâce à une approche open source, en mettant l’accent sur des données de haute qualité.

Approche open source : la base technique de l’IA ascendante

L’IA ascendante remet en question l’opinion dominante selon laquelle de puissantes plates-formes d’IA ne peuvent être développées qu’en utilisant le Big Data, comme c’est le cas avec ChatGPT, Bard et d’autres grands modèles de langage (LLM).

Selon un document divulgué de Google intitulé We have no Moat, and Ni Does OpenAI, l’IA open source pourrait supplanter les modèles géants tels que ChatGPT.

En fait, cela se produit déjà. Les plates-formes open source Vicuna, Alpaca et LLama se rapprochent en qualité de ChatGPT et Bard, les principales plates-formes d’IA propriétaires, comme illustré ci-dessous.

Les solutions open source sont également plus rentables. Selon le document divulgué par Google : ils font des choses avec des paramètres de 100 $ et 13 milliards avec lesquels nous luttons à 10 millions de dollars et 540 milliards. Et ils le font en semaines, pas en mois.

Les solutions open source sont également plus rapides, plus modulaires et plus vertes dans le sens où elles demandent moins d’énergie pour le traitement des données.

Des données de haute qualité : le carburant de l’IA ascendante

Alors que les algorithmes d’IA ascendante deviennent de plus en plus disponibles, l’accent est mis sur la garantie d’une meilleure qualité des données. Actuellement, les algorithmes sont affinés principalement manuellement grâce à un étiquetage des données effectué principalement dans des pays anglophones à faible coût tels que l’Inde et le Kenya. Par exemple, les ensembles de données ChatGPT sont annotés au Kenya. Cette pratique n’est pas durable car elle soulève de nombreuses questions liées au droit du travail et à la protection des données. Il ne peut pas non plus fournir une expertise approfondie, ce qui est essentiel pour le développement de nouveaux systèmes d’IA.

Chez Diplo, l’organisation que je dirige, nous avons expérimenté avec succès une approche qui intègre l’étiquetage des données dans nos opérations quotidiennes, de la recherche à la formation et à la gestion. De manière analogue aux marqueurs jaunes et aux post-it, nous annotons numériquement le texte lorsque nous organisons des cours, menons des recherches ou développons des projets. Grâce aux interactions autour du texte, nous construisons progressivement une IA ascendante.

Le principal obstacle à ce processus ascendant n’est pas la technologie, mais les habitudes cognitives qui favorisent souvent le contrôle du partage des connaissances et des informations. Sur la base de notre expérience chez Diplo, en partageant des réflexions et des opinions sur les mêmes textes et problèmes, nous augmentons progressivement la proximité cognitive non seulement entre nous, collègues en tant qu’humains, mais aussi entre nous, les humains et les algorithmes d’IA. De cette façon, tout en construisant une IA ascendante, nous avons également développé un nouveau type d’organisation qui non seulement s’adapte à l’utilisation de l’IA, mais change également la façon dont nous travaillons ensemble.

Comment l’IA ascendante affectera-t-elle la gouvernance de l’IA ?

ChatGPT a déclenché des craintes majeures en matière de gouvernance, notamment un appel d’Elon Musk, Yuval Harari et de milliers de scientifiques de premier plan à suspendre le développement de l’IA en raison de grands modèles d’IA déclenchant des risques majeurs pour la société, notamment de fortes concentrations de pouvoir commercial, cognitif et sociétal. La plupart de ces craintes et préoccupations pourraient être résolues par l’IA ascendante, qui renvoie l’IA aux citoyens et aux communautés.

En favorisant l’IA ascendante, de nombreux problèmes de gouvernance déclenchés par ChatGPT pourraient être résolus par la simple prévention des monopoles de données et de connaissances. Nous développerons notre IA sur la base de nos données, ce qui garantira la confidentialité et la protection des données. Comme nous avons le contrôle sur nos systèmes d’IA, nous aurons également le contrôle sur la propriété intellectuelle. De manière ascendante, nous pouvons décider quand apporter leurs modèles d’IA à des organisations plus larges, des communautés aux pays et à l’ensemble de l’humanité.

Ainsi, de nombreuses craintes liées à l’IA, y compris celles soulevées en relation avec la survie même de l’humanité (qu’elles soient réalistes ou non), deviendront moins importantes du fait de notre appropriation de l’IA et des modèles de connaissances.

L’IA ascendante sera essentielle pour développer une société inclusive, innovante et démocratique. Cela peut atténuer les risques de centralisation du pouvoir, hérités de l’IA générative. Les mécanismes juridiques, politiques et de marché actuels ne peuvent pas faire face au risque de monopole des connaissances sur l’IA générative. Ainsi, l’IA ascendante est un moyen pratique de favoriser un nouveau système d’exploitation sociétal construit autour de la centralité des êtres humains, de leur dignité, de leur libre arbitre et de la réalisation du potentiel créatif, comme Diplo l’a proposé via notre approche humaniste, que nous avons commencé à développer en 2019. .

L’IA bottom-up va-t-elle décoller ?

Les solutions technologiques pour l’IA ascendante sont réalisables aujourd’hui. Les utiliserons-nous comme une alternative à l’IA descendante ? Pour le moment, cela reste à deviner. Certaines personnes et communautés peuvent avoir plus d’incitations et de capacités à expérimenter l’IA ascendante que d’autres. Certains peuvent continuer à s’appuyer sur l’IA descendante par pure inertie. Et les deux approches peuvent même coexister. Mais nous nous devons à nous-mêmes et à l’humanité de remettre en question ce qui nous est servi, et à la fois d’explorer et d’encourager des alternatives. Et, en fin de compte, de prendre des décisions éclairées.

Les opinions exprimées dans cet article sont celles des auteurs et ne reflètent pas nécessairement la position éditoriale d’Al Jazeera.