Yuval Harari prévient que les humains seront « piratés » si l’intelligence artificielle n’est pas réglementée à l’échelle mondiale
Yuval Harari explique que L’avenir pourrait voir les données humaines du monde, fournies par la puissance et la portée croissantes de l’intelligence artificielle, entre les mains de quelques puissants – une recette pour un lendemain dystopique peuplé d' »humains piratés » .
L’auteur de renommée mondiale dit à Anderson Cooper que les nations doivent commencer à coopérer pour empêcher cela en réglementant l’intelligence artificielle et la collecte de données dans toutes les nations. L’interview de Harari sera diffusée sur 60 Minutes, le dimanche 31 octobre à 19 h HE/PT sur CBS.
Yuval Harari dit que les pays et les entreprises qui contrôlent le plus de données contrôleront le monde.
« Le monde est de plus en plus découpé en sphères de collecte de données, de récolte de données. Pendant la guerre froide, vous aviez le rideau de fer. Maintenant, nous avons le rideau de silicium, que le monde est de plus en plus divisé entre les États-Unis et la Chine. Harari dit à Cooper. « Vos données vont-elles en Californie ou à Shenzhen, à Shanghai et à Pékin ? »
Harari, professeur d’histoire à l’Université hébraïque de Jérusalem, a publié son premier livre, « Sapiens », en 2014 ; c’était un best-seller mondial. Il a depuis publié deux autres livres sur des thèmes futuristes, « Homo Deus » et « 21 Lessons for the 21st Century ». Ensemble, les trois livres se sont vendus à 35 millions d’exemplaires en 65 langues.
Il a mis en garde les gens contre un avenir pas si lointain de changements incroyables, affirmant que l’intelligence artificielle à l’œuvre aujourd’hui grâce aux algorithmes ne fera que renforcer son emprise sur les humains.
« Netflix nous dit quoi regarder et Amazon nous dit quoi acheter. Finalement, dans 10, 20 ou 30 ans, de tels algorithmes pourraient également vous dire quoi étudier à l’université et où travailler et qui épouser et même pour qui voter », dit Harari.
Et il souligne, la pandémie a ouvert la porte à une collecte encore plus intrusive de nos données.
« Ce sont des données sur ce qui se passe à l’intérieur de mon corps. Ce que nous avons vu jusqu’à présent, ce sont des entreprises et des gouvernements qui collectent des données sur où nous allons, qui nous rencontrons, quels films nous regardons. La prochaine phase est la surveillance sous notre peau », prévient-il. .
« Certes, nous en sommes maintenant au point où nous avons besoin d’une coopération mondiale. Vous ne pouvez pas réguler la puissance explosive de l’intelligence artificielle au niveau national », déclare Harari, qui dit à Cooper ce qu’il pense devoir être fait. « Une règle clé est que si vous obtenez mes données, les données doivent être utilisées pour m’aider et non pour me manipuler. Une autre règle clé, chaque fois que vous augmentez la surveillance des individus, vous devez simultanément augmenter la surveillance de l’entreprise et des gouvernements et des personnes en haut. Et le troisième principe est le suivant : ne jamais permettre que toutes les données soient concentrées au même endroit. C’est la recette d’une dictature. »
Harari dit que les humains risquent d’être « piratés » si l’intelligence artificielle n’est pas mieux réglementée.
« Pirater un être humain, c’est apprendre à connaître cette personne mieux qu’elle ne se connaît elle-même. Et sur cette base, vous manipuler de plus en plus », explique Harari.
Il y a aussi un avantage à l’essor de l’intelligence artificielle, dit Harari, mais seulement si elle s’accompagne d’une réglementation.
« Le tout, c’est que ce n’est pas seulement dystopique. C’est aussi utopique. Je veux dire, ce genre de données peut aussi nous permettre de créer le meilleur système de santé de l’histoire », dit-il. « La question est de savoir ce qui est fait d’autre avec ces données ? Et qui les supervise ? Qui les réglemente ? »