Chronologie de l’IA : qu’attendent les experts en intelligence artificielle pour l’avenir ?
L’intelligence artificielle qui surpasse notre propre intelligence ressemble aux trucs des livres ou des films de science-fiction. Que pensent les experts dans le domaine de la recherche en IA de tels scénarios ? Est-ce qu’ils rejettent ces idées comme fantaisistes, ou prennent-ils ces perspectives au sérieux ?
Une IA au niveau humain serait une machine, ou un réseau de machines, capable d’effectuer la même gamme de tâches dont nous, les humains, sommes capables. Ce serait une machine capable d’apprendre à faire tout ce qu’un humain peut faire, comme Norvig et Russell l’ont dit dans leur manuel sur l’IA.1
Il serait capable de choisir des actions qui permettent à la machine d’atteindre ses objectifs, puis d’effectuer ces actions. Il serait capable de faire le travail d’un traducteur, d’un médecin, d’un illustrateur, d’un enseignant, d’un thérapeute, d’un chauffeur, ou le travail d’un investisseur.
Ces dernières années, plusieurs équipes de recherche ont contacté des experts en IA et les ont interrogés sur leurs attentes quant à l’avenir de l’intelligence artificielle. Ces enquêtes d’experts sont l’une des informations sur lesquelles nous pouvons nous appuyer pour nous faire une idée de ce à quoi pourrait ressembler l’avenir de l’IA.
Le graphique montre les réponses de 352 experts. Ceci est tiré de l’étude la plus récente de Katja Grace et de ses collègues, menée à l’été 2022.2
On a demandé aux experts s’ils pensaient qu’il y avait 50 % de chances que l’IA au niveau humain existe.3 L’IA au niveau humain a été définie comme des machines autonomes capables d’accomplir chaque tâche mieux et à moindre coût que les travailleurs humains. Vous trouverez plus d’informations sur l’étude dans l’encadré à la fin du texte sur cette page.4
Chaque ligne verticale de ce tableau représente la réponse d’un expert. Le fait qu’il y ait de si grandes différences dans les réponses montre clairement que les experts ne s’entendent pas sur le temps qu’il faudra avant qu’un tel système puisse être développé. Quelques-uns croient que ce niveau de technologie ne sera jamais développé. Certains pensent que c’est possible, mais cela prendra du temps. Et beaucoup pensent qu’il sera développé dans les prochaines décennies.
Comme le soulignent les annotations, la moitié des experts ont donné une date avant 2061, et 90 % ont donné une date dans les 100 prochaines années.
D’autres enquêtes d’experts en IA arrivent à des conclusions similaires. Dans la visualisation suivante, j’ai ajouté les chronologies de deux enquêtes précédentes menées en 2018 et 2019. Il est utile d’examiner différentes enquêtes, car elles diffèrent dans la manière dont elles ont posé la question et dont elles ont défini l’IA au niveau humain. Vous trouverez plus de détails sur ces études à la fin de ce texte.
Dans les trois enquêtes, nous constatons un large désaccord entre les experts et ils expriment également de grandes incertitudes quant à leurs propres prévisions individuelles.5
Que devrions-nous faire des chronologies des experts en IA ?
Les enquêtes d’experts sont une information à prendre en compte lorsque nous pensons à l’avenir de l’IA, mais nous ne devons pas surestimer les résultats de ces enquêtes. Les experts d’une technologie particulière ne sont pas nécessairement des experts pour faire des prédictions sur l’avenir de cette technologie.
Les experts dans de nombreux domaines n’ont pas de bons antécédents en matière de prévisions sur leur propre domaine, comme l’ont montré des chercheurs tels que Barbara Mellers, Phil Tetlock et d’autres.6L’histoire du vol comprend un exemple frappant d’un tel échec. Wilbur Wright est cité comme disant, J’avoue qu’en 1901, j’ai dit à mon frère Orville que l’homme ne volerait pas pendant 50 ans. Deux ans plus tard, non seulement l’homme volait, mais ce sont ces mêmes hommes qui ont réussi l’exploit.7
De plus, ces études trouvent souvent des effets de cadrage importants, deux questions logiquement identiques obtiennent des réponses de manière très différente en fonction de la formulation exacte des questions.8
Ce que je retiens de ces enquêtes, cependant, c’est que la majorité des experts en IA prennent au sérieux la perspective d’une technologie d’IA très puissante. Il n’est pas vrai que les chercheurs en IA considèrent l’IA extrêmement puissante comme un simple fantasme.
La grande majorité pense que dans les décennies à venir, il y a une chance égale que nous voyions la technologie de l’IA qui aura un impact transformateur sur notre monde. Alors que certains ont de longs délais, beaucoup pensent qu’il est possible que nous ayons très peu de temps avant que ces technologies n’arrivent. Dans les trois enquêtes, plus de la moitié pensent qu’il y a 50% de chances qu’une IA au niveau humain soit développée avant un certain point dans les années 2060, une période bien dans la vie des jeunes d’aujourd’hui.
Les prévisions de la communauté Metaculus
Dans la grande visualisation sur les chronologies de l’IA ci-dessous, j’ai inclus les prévisions de la communauté des prévisionnistes Metaculus.
Les prévisionnistes de la plateforme en ligneMetaculus.com ne sont pas des experts en IA mais des personnes qui consacrent leur énergie à faire de bonnes prévisions. La recherche sur les prévisions a montré que des groupes de personnes peuvent attribuer des probabilités étonnamment précises à des événements futurs lorsqu’ils reçoivent les bonnes incitations et une bonne rétroaction.9Pour recevoir ces commentaires, la communauté en ligne de Metaculustrackmontre qu’ils performent bien dans leurs prévisions.
Qu’attend ce groupe de prévisionnistes pour l’avenir de l’IA ?
Au moment d’écrire ces lignes, en novembre 2022, les prévisionnistes estiment qu’il y a 50/50 de chances qu’une intelligence artificielle générale soit conçue, testée et annoncée publiquement d’ici 2040, dans moins de 20 ans.
Sur leur page consacrée à cette question spécifique, vous pouvez trouver la définition précise du système d’IA en question, comment la chronologie de leurs prévisions a changé et les arguments des prévisionnistes individuels sur la manière dont ils sont arrivés à leurs prévisions.dix
Les délais de la communauté Metaculus sont devenus beaucoup plus courts récemment. Les délais prévus se sont raccourcis d’environ une décennie au printemps 2022, lorsque plusieurs percées impressionnantes de l’IA se sont produites plus rapidement que beaucoup ne l’avaient prévu.11
La prévision par Ajeya Cotra
La dernière prévision présentée provient des recherches d’Ajeya Cotra, qui travaille pour l’organisation à but non lucratif Open Philanthropy.12 En 2020, elle a publié une étude détaillée et influente demandant quand le monde verra une IA transformatrice. Sa chronologie n’est pas basée sur des enquêtes, mais sur l’étude des tendances à long terme dans le calcul utilisé pour former les systèmes d’IA. Je présente et discute des tendances à long terme du calcul d’entraînement dans cet article complémentaire.
Cotra a estimé qu’il y a 50 % de chances qu’un système d’IA transformatif devienne possible et abordable d’ici 2050. Il s’agit de son estimation centrale dans son scénario médian. Cotra souligne qu’il existe des incertitudes importantes autour de ce scénario médian et a également exploré deux autres scénarios, plus extrêmes. Les chronologies de ces deux scénarios, son scénario plausible le plus agressif et son scénario plausible le plus conservateur, sont également présentées dans la visualisation. La période de 2040 à 2090 dans les prévisions plausibles de Cotras souligne qu’elle estime que l’incertitude est grande.
La visualisation montre également que Cotra a mis à jour ses prévisions deux ans après sa publication initiale. En 2022, Cotra a publié une mise à jour dans laquelle elle a raccourci son calendrier médian de dix ans.13
Il est important de noter que les définitions des systèmes d’IA en question diffèrent beaucoup d’une étude à l’autre. Par exemple, le système dont parle Cotra aurait un impact beaucoup plus transformateur sur le monde que le système sur lequel se concentrent les prévisionnistes de Metaculus. Plus de détails peuvent être trouvés dans l’annexe et dans les études respectives.
Que pouvons-nous apprendre des prévisions ?
La visualisation montre les prévisions de 1128 personnes812 experts individuels en IA, les estimations agrégées de 315 prévisionnistes de la plateforme Metaculus et les résultats de l’étude détaillée d’Ajeya Cotra.
Il y a deux grands points à retenir de ces prévisions sur les délais de l’IA :
- Il n’y a pas de consensus et l’incertitude est grande. Il y a un énorme désaccord entre les experts sur le moment où l’IA au niveau humain sera développée. Certains pensent que c’est dans des décennies, tandis que d’autres pensent qu’il est probable que de tels systèmes seront développés dans les prochaines années ou les prochains mois. Il n’y a pas que des désaccords entreexperts; les experts individuels soulignent également la grande incertitude entourant leur propre estimation individuelle. Comme toujours lorsque l’incertitude est élevée, il est important de souligner qu’elle va dans les deux sens. Il faudra peut-être très longtemps avant de voir une IA au niveau humain, mais cela signifie également que nous n’aurons peut-être que peu de temps pour nous préparer.
- En même temps, il y a un large accord dans l’image globale. Les délais de nombreux experts sont plus courts qu’un siècle, et beaucoup ont des délais beaucoup plus courts que cela. La majorité de ceux qui étudient cette question pensent qu’il y a 50 % de chances que des systèmes d’IA transformatifs soient développés dans les 50 prochaines années. Dans ce cas, ce serait vraisemblablement la plus grande transformation de la vie de nos enfants, ou même de notre propre vie.
Le discours public et la prise de décision dans les grandes institutions n’ont pas rattrapé ces perspectives. Dans les discussions sur l’avenir de notre monde, de l’avenir de notre climat à l’avenir de nos économies en passant par l’avenir de nos institutions politiques, la perspective d’une IA transformatrice est rarement au cœur de la conversation. Souvent, il n’est pas mentionné du tout, pas même dans une note de bas de page.
Nous semblons être dans une situation où la plupart des gens pensent à peine à l’avenir de l’intelligence artificielle, tandis que les quelques personnes qui y consacrent leur attention trouvent plausible que l’une des plus grandes transformations de l’histoire de l’humanité se produise probablement au cours de notre vie.
Remerciements :Je tiens à remercier mes collègues Natasha Ahuja, Daniel Bachler, Bastian Herre, Edouard Mathieu, Esteban Ortiz-Ospina et Hannah Ritchie pour leurs précieux commentaires sur les ébauches de cet essai.
Et je tiens à remercier mon collègue Charlie Giattino qui a calculé les délais pour les experts individuels sur la base des données des trois études d’enquête et a soutenu le travail sur cet essai. Charlie est également l’un des auteurs de l’étude citée par Zhang et al. sur les délais des experts en IA.
Cet article a été initialement publié sur Our World in Data et a été republié ici sous une licence Creative Commons. Lire l’article original.
Crédit image : DeepMind / Unsplash