La surveillance de masse rendue possible par Internet. L’IA permettra l’espionnage de masse.

L’espionnage et la surveillance sont des choses différentes mais liées. Si j’engageais un détective privé pour vous espionner, ce détective pourrait cacher un bug dans votre maison ou votre voiture, mettre votre téléphone sur écoute et écouter ce que vous dites. À la fin, j’obtiendrais un rapport de toutes les conversations que vous avez eues et du contenu de ces conversations. Si j’engageais ce même détective privé pour vous mettre sous surveillance, j’obtiendrais un rapport différent : où vous êtes allé, à qui vous avez parlé, ce que vous avez acheté, ce que vous avez fait.

Avant Internet, mettre quelqu’un sous surveillance était coûteux et prenait beaucoup de temps. Vous deviez suivre manuellement quelqu’un, en notant où il allait, à qui il parlait, ce qu’il achetait, ce qu’il faisait et ce qu’il lisait. Ce monde a disparu à jamais. Nos téléphones suivent nos emplacements. Les cartes de crédit suivent nos achats. Les applications suivent à qui nous parlons et les liseuses savent ce que nous lisons. Les ordinateurs collectent des données sur ce qu’ils font, et comme le stockage et le traitement sont devenus moins chers, ces données sont de plus en plus enregistrées et utilisées. Ce qui était manuel et individuel est devenu volume et masse. La surveillance est devenue le modèle économique d’Internet et il n’existe aucun moyen raisonnable pour nous d’y renoncer.

L’espionnage est une autre affaire. Il est depuis longtemps possible de mettre sur écoute le téléphone de quelqu’un ou d’installer un bug dans sa maison et/ou sa voiture, mais ces choses nécessitent toujours que quelqu’un écoute et donne un sens aux conversations. Oui, les sociétés de logiciels espions comme NSO Group aident le gouvernement à pirater les téléphones des gens, mais quelqu’un doit encore faire le tri dans toutes les conversations. Et des gouvernements comme la Chine pouvaient censurer les publications sur les réseaux sociaux sur la base de mots ou d’expressions particuliers, mais cela était grossier et facile à contourner. L’espionnage est limité par le besoin de travail humain.

L’IA est sur le point de changer cela. La synthèse est quelque chose qu’un système d’IA générative moderne fait bien. Donnez-lui une réunion d’une heure et il renverra un résumé d’une page de ce qui a été dit. Demandez-lui de rechercher parmi des millions de conversations et de les organiser par sujet, et il le fera. Vous voulez savoir qui parle de quoi ? Ça vous le dira.

Les technologies ne sont pas parfaites ; certains d’entre eux sont assez primitifs. Ils passent à côté de choses importantes. Ils se trompent sur d’autres choses. Mais les humains aussi. Et contrairement aux humains, les outils d’IA peuvent être reproduits par millions et s’améliorent à un rythme étonnant. Ils s’amélioreront l’année prochaine, et encore meilleurs l’année suivante. Nous sommes sur le point d’entrer dans l’ère de l’espionnage de masse.

La surveillance de masse a fondamentalement changé la nature de la surveillance. Parce que toutes les données sont enregistrées, la surveillance de masse permet aux gens d’effectuer une surveillance à rebours dans le temps, et sans même savoir qui spécifiquement vous souhaitez cibler. Dis-moi où ce personne l’était l’année dernière. Listez toutes les berlines rouges qui sont descendues ce route au cours du mois dernier. Énumérez toutes les personnes qui ont acheté tous les ingrédients pour une bombe à autocuiseur au cours de la dernière année. Retrouvez-moi toutes les paires de téléphones qui se rapprochaient, s’éteignaient, puis se rallumaient une heure plus tard en s’éloignant l’un de l’autre (signe d’une rencontre secrète).

De la même manière, l’espionnage de masse modifiera la nature de l’espionnage. Toutes les données seront enregistrées. Tout cela sera consultable et compréhensible en masse. Dites-moi qui a parlé d’un sujet particulier au cours du mois dernier et comment les discussions sur ce sujet ont évolué. La personne A a fait quelque chose ; vérifiez si quelqu’un leur a dit de le faire. Trouvez tous ceux qui préparent un crime, répandent une rumeur ou envisagent d’assister à une manifestation politique.

Il y a tellement plus. Pour découvrir une structure organisationnelle, recherchez quelqu’un qui donne des instructions similaires à un groupe de personnes, puis toutes les personnes à qui elles ont transmis ces instructions. Pour trouver les confidents des gens, regardez à qui ils confient leurs secrets. Vous pouvez suivre les amitiés et les alliances au fur et à mesure qu’elles se forment et se rompent, dans les moindres détails. Bref, vous pouvez tout savoir de ce dont tout le monde parle.

Cet espionnage ne se limite pas aux conversations sur nos téléphones ou ordinateurs. Tout comme les caméras partout dans le monde alimentent la surveillance de masse, les microphones partout dans le monde alimenteront l’espionnage de masse. Siri, Alexa et Hey Google écoutent déjà toujours ; les conversations ne sont tout simplement pas encore enregistrées.

Le fait de savoir qu’ils sont sous surveillance constante change le comportement des gens. Ils se conforment. Ils s’autocensurent, avec les effets dissuasifs que cela entraîne. La surveillance facilite le contrôle social, et l’espionnage ne fera qu’empirer la situation. Les gouvernements du monde entier ont déjà recours à la surveillance de masse ; ils se lanceront également dans l’espionnage de masse.

Les entreprises espionneront les gens. La surveillance de masse a inauguré l’ère des publicités personnalisées ; l’espionnage de masse va dynamiser cette industrie. Les informations sur ce dont les gens parlent, leurs humeurs, leurs secrets sont de l’herbe à chat pour les spécialistes du marketing à la recherche d’un avantage. Les monopoles technologiques qui nous maintiennent actuellement sous surveillance constante ne pourront pas résister à la collecte et à l’utilisation de toutes ces données.

Au début de Gmail, Google parlait d’utiliser le contenu Gmail des gens pour leur proposer des publicités personnalisées. L’entreprise a arrêté de le faire, presque certainement parce que les données sur les mots clés qu’elle collectait étaient très pauvres et donc inutiles à des fins de marketing. Cela va bientôt changer. Peut-être que Google ne sera pas le premier à espionner les conversations de ses utilisateurs, mais une fois que d’autres se lanceront, ils ne pourront pas résister. Leurs véritables clients, leurs annonceurs, l’exigeront.

Nous pourrions limiter cette capacité. Nous pourrions interdire l’espionnage de masse. Nous pourrions adopter des règles strictes en matière de confidentialité des données. Mais nous n’avons rien fait pour limiter la surveillance de masse. Pourquoi l’espionnage serait-il possible différent?

Future Tense est un partenariat entre Slate, New America et l’Arizona State University qui examine les technologies émergentes, les politiques publiques et la société.