Le créateur de l’IA sur la question de savoir si cela rendra les humains « ennuyeux » – BBC News

« Les humains sont un peu ennuyeux – ce sera comme, au revoir! » C’est la prédiction personnelle – que l’intelligence artificielle (IA) supplantera les humains dans de nombreux rôles – de l’une des personnes les plus importantes dont vous n’avez probablement jamais entendu parler.

Emad Mostaque est le fondateur britannique de la société de technologie Stability AI. Il a popularisé Stable Diffusion, un outil qui utilise l’IA pour créer des images à partir d’instructions textuelles simples en analysant des images trouvées en ligne.

L’IA permet à un ordinateur de penser ou d’agir davantage comme un humain. Cela inclut ce qu’on appelle l’apprentissage automatique, lorsque les ordinateurs peuvent apprendre quoi faire sans donner d’instructions exactes par un humain assis devant un clavier tapant sur des commandes. Le mois dernier, 1 000 experts ont lancé un avertissement dramatique pour faire une pause dans son développement, avertissant des risques potentiels et affirmant que la course au développement de systèmes d’IA était hors de contrôle.

Dans une interview que nous montrerons en intégralité dimanche, le fondateur de la technologie, Mostaque, s’interroge sur ce qui se passera « si nous avons des agents plus capables que nous que nous ne pouvons pas contrôler, qui traversent Internet et atteignent un niveau d’automatisation ; qu’est-ce que cela moyenne?

« Le pire scénario est qu’il prolifère et qu’il contrôle fondamentalement l’humanité. »

Cela semble terrifiant, mais il n’est pas le seul à souligner le risque, que si nous créons des ordinateurs plus intelligents que nous, nous ne pouvons tout simplement pas être sûrs de ce qui se passera ensuite.

Mostaque pense que les gouvernements pourraient bientôt être choqués de prendre des mesures par un événement qui rend les risques soudainement réels. Il souligne le moment où Tom Hanks a contracté Covid-19 et des millions de personnes se sont assises et ont prêté attention.

Quand un moment comme celui-là arrivera, les gouvernements concluront « nous avons besoin d’une politique maintenant », dit le quadragénaire.

Il y a eu un pic d’inquiétude, par exemple après la création d’une publicité d’attaque républicaine contre Jo Biden à l’aide de fausses images générées par ordinateur.

Lorsqu’il y a un risque pour les informations auxquelles les électeurs peuvent faire confiance, c’est une chose à laquelle les gouvernements doivent répondre, dit Mostaque.

Malgré ses inquiétudes, Mostaque affirme que les avantages potentiels de l’IA pour presque tous les aspects de notre vie pourraient être énormes. Pourtant, il concède que l’effet sur l’emploi pourrait être douloureux, du moins au début.

Mostaque dit qu’il pense que l’IA « aura un impact économique plus important que la pandémie », ajoutant que « c’est à nous de décider dans quelle direction » tout cela va.

Certains emplois disparaîtront sans aucun doute, la banque Goldman Sachs a laissé entendre qu’un chiffre presque incompréhensible de 300 millions de rôles pourrait être perdu ou diminué par l’avancée de la technologie.

Bien que personne ne veuille être remplacé par un robot, l’espoir de Mostaque est que de meilleurs emplois pourraient être créés parce que « les augmentations de productivité s’équilibreront » et que les humains pourront se concentrer sur les choses qui nous rendent humains et laisser les machines faire le reste. Il convient avec l’ancien conseiller scientifique en chef du Royaume-Uni, Sir Patrick Vallance, que l’avancée de l’IA et ses impacts pourraient s’avérer encore plus importants que la révolution industrielle.

Mostaque est un mathématicien sans prétention, le fondateur d’une entreprise qu’il n’a créée qu’en 2020 et qui a déjà été évaluée à 1 milliard de dollars, et avec plus d’argent liquide, y compris de la star hollywoodienne Ashton Kutcher, va probablement bientôt valoir beaucoup plus. Certaines spéculations ont mis la valeur à 4 milliards de dollars.

Contrairement à certains de ses concurrents, il est déterminé à ce que sa technologie reste open source – en d’autres termes, n’importe qui peut consulter le code, le partager et l’utiliser. À son avis, c’est ce qui devrait donner au public un niveau de confiance dans ce qui se passe.

« Je pense qu’il ne devrait pas y avoir de besoin de confiance », dit-il.

« Si vous construisez des modèles ouverts et que vous le faites au grand jour, vous devriez être critiqué si vous faites mal les choses et, espérons-le, loué si vous faites certaines choses correctement. »

Mais son entreprise soulève également de profondes questions sur la propriété et sur ce qui est réel. Une action en justice est en cours contre eux par l’agence photo Getty Images qui prétend que les droits sur les images qu’elle vend ont été violés.

En réponse, Mostaque dit : « Et si vous avez un robot qui se promène et regarde des choses, devez-vous fermer les yeux s’il voit quelque chose ? »

Il est peu probable que ce soit la fin de cette conversation.

L’entrepreneur est convaincu que l’ampleur de ce qui s’en vient est énorme. Il estime que dans 10 ans, son entreprise et ses collègues leaders de l’IA, ChatGPT et DeepMind, seront encore plus gros que Google et Facebook. Les prédictions sur la technologie sont aussi délicates que les prédictions sur la politique – des suppositions éclairées qui pourraient s’avérer totalement fausses. Mais ce qui est clair, c’est qu’une conversation publique sur les risques et les réalités de l’IA est maintenant en cours. Nous pourrions être à l’aube de changements radicaux trop importants pour être gérés par une seule entreprise, un seul pays ou un seul politicien.

Le premier train à vapeur a soufflé le long des voies à Darlington plus de 50 ans après que la machine à vapeur a été brevetée par James Watt. Cette fois, il est peu probable que nous ayons autant de temps pour nous habituer à ces nouvelles idées, et il est peu probable que ce soit ennuyeux !

Vous pouvez regarder beaucoup plus de notre conversation avec Emad Mostaque dimanche de demain avec Laura Kuenssberg en direct sur BBC One ou ici sur iPlayer.