La Chine se vante d’une intelligence artificielle de « lecture dans les pensées » qui soutient la « tocratie de l’IA »
Un institut d’intelligence artificielle (IA) à Hefei, dans la province chinoise de l’Anhui, affirme avoir développé un logiciel capable d’évaluer la loyauté des membres du Parti communiste, ce qui, s’il était vrai, serait considéré comme une percée, mais a suscité un tollé public.
Les analystes ont déclaré que la Chine avait amélioré sa surveillance basée sur l’IA, en utilisant les mégadonnées, l’apprentissage automatique, la reconnaissance faciale et l’IA pour pénétrer dans le cerveau et l’esprit de son peuple, créant ce que beaucoup appellent une dictature numérique draconienne.
Une éducation intelligente à la pensée ?
L’institut a publié une vidéo intitulée The Smart Political Education Bar, le 1er juillet, pour se vanter de son logiciel de lecture de pensées, qui, selon lui, serait utilisé sur les membres du parti pour renforcer davantage leur détermination à être reconnaissants envers le parti, à écouter le parti et suivre la fête.
Dans la vidéo, un sujet a été vu en train de faire défiler du matériel en ligne qui promeut la politique du parti dans un kiosque, où l’institut a déclaré que son logiciel d’intelligence artificielle surveillait sa réaction pour voir à quel point il était attentif à l’éducation de la pensée des partis.
Le message, cependant, a été supprimé peu de temps après avoir déclenché un tollé parmi les internautes chinois.
Hung Ching-fu, professeur de sciences politiques à l’Université nationale Cheng Kung de Tainan, dans le sud de Taïwan, a déclaré que le Parti communiste avait abusé des avancées technologiques pour servir ses propres intérêts politiques.
Il a utilisé une technologie de pointe pour renforcer son État-parti. La Chine est passée de la reconnaissance faciale des premiers jours à des programmes d’IA qui tentent de pénétrer dans les cerveaux et les esprits (plus) qu’il n’y paraît. Son adoption de l’IA avancée renforcera ses contrôles totaux, a déclaré Hung à VOA par téléphone.
Hung a ajouté que l’État policier chinois alimenté par l’IA pèsera sur son peuple, qui est susceptible de s’autocensurer ou de vivre dans la peur.
Répression numérique
Mais il a peu confiance en ce qu’il a appelé la répression numérique de la Chine, qui, selon lui, mettra probablement le Parti communiste dans le dilemme des dictateurs, un terme politique qui décrit l’échec d’un chef de gouvernement à gagner le cœur et l’esprit de son peuple.
Plus vous construisez votre mur [of power], plus vous êtes coupé du peuple Cela constitue ce que nous appelons le dilemme des dictateurs en politique. Autrement dit, malgré leurs énormes pouvoirs, les dictateurs restent hors de contact avec le peuple. Je ne pense pas que des systèmes politiques contraires à la nature humaine se maintiendront, a ajouté Hung.
Les appels et les e-mails de VOA à l’institut basé à Hefei pour commentaires sont restés sans réponse.
Le soi-disant logiciel de lecture de pensées n’est que le dernier contrôle numérique que la Chine a mis en place.
La Chine aurait depuis longtemps déployé la reconnaissance faciale au Xinjiang pour garder un œil sur les Ouïghours de souche tout en ayant renforcé sa surveillance ces dernières années avec une personne, un logiciel de fichier pour faciliter le suivi de ses habitants.
À la fin de l’année dernière, les autorités de la province du Henan auraient lancé un système similaire pour suivre ce qu’elles considèrent comme des journalistes suspects, des étudiants étrangers et des femmes. Dans le même temps, les procureurs de Shanghai auraient adopté des procureurs de l’IA, qui peuvent déposer des actes d’accusation pour huit infractions pénales, y compris la fraude par carte de crédit et les accusations de fomenter une querelle et de provoquer des troubles.
Le journal en ligne chinois The Paper a rapporté qu’une école du Parti communiste du Sichuan avait développé Smart Red Cloud dès 2017, qui était déjà en mesure de surveiller la réaction des membres du parti à son éducation politique et de calculer leur loyauté.
Victimes du système de surveillance chinois
Plusieurs avocats et militants des droits de l’homme ont déclaré à VOA sous couvert d’anonymat qu’ils avaient été victimes du système de surveillance numérique chinois.
Un militant des droits de Wuhan, Hebei, a déclaré qu’il avait été une fois emmené par la police qui a pu l’identifier après qu’une caméra en bordure de route ait capturé son visage alors qu’il se trouvait dans la rue.
Un avocat des droits basé à Pékin s’est plaint de ne pas pouvoir publier de messages en ligne ou effectuer une inscription en ligne en raison de la censure stricte et du système de suivi numérique de la Chine.
Un autre avocat des droits de l’homme a révélé que la police chinoise recueillait illégalement des données biométriques sur les pupilles des yeux, les empreintes digitales et les échantillons d’urine des personnes sous sa garde pour renforcer ce qu’il a appelé une surveillance précise mais diabolique.
Cependant, l’application généralisée des technologies d’intelligence artificielle en Chine stimule l’innovation dans le secteur, selon les conclusions d’une recherche récente de l’auteur Martin Beraja, professeur adjoint d’économie au Massachusetts Institute of Technology et de trois autres universitaires de l’Université de Harvard et de la London School of Sciences économiques et politiques.
Leur recherche a conclu que, alors que les nouvelles technologies renforcent le pouvoir autocratique et que la demande autocratique stimule l’innovation, cette mutualité d’avantages peut même générer une innovation IA soutenue à long terme en Chine, créant ce qu’ils appellent une IA-tocratie.
IA-tocratie
Dans le processus d’obtention de ce contrat gouvernemental, ils [AI firms in China] accéder à ces données qui leur permettent, bien sûr, d’innover pour l’application gouvernementale qui concerne généralement la sécurité publique ou la prévention du crime, etc. Cela s’est répercuté sur leur innovation commerciale, car, potentiellement, ils peuvent utiliser soit les mêmes données gouvernementales, soit, si cela est restreint, ils peuvent utiliser les mêmes algorithmes qui ont été formés avec ces données pour développer des produits commerciaux qui sont utilisés dans le secteur privé. , a déclaré Beraja à VOA.
Un de ces logiciels commerciaux, par exemple, est utilisé dans les supermarchés pour suivre les consommateurs lorsqu’ils se déplacent dans les allées, a ajouté le professeur.
Beraja, cependant, s’est dit préoccupé par les exportations chinoises d’IA, qui, selon ses recherches, aident probablement d’autres gouvernements répressifs.
Une chose que nous observons est que les pays qui sont des démocraties plus autocratiques ou relativement faibles importent en effet plus d’IA de reconnaissance faciale de Chine, plus probablement d’IA de reconnaissance faciale de Chine que d’autres technologies. Et pour moi, cela signifie qu’il y a un sens dans lequel ces technologies sont effectivement utilisées pour la surveillance et la répression, a ajouté Beraja.
Zola, un éminent blogueur chinois qui est maintenant citoyen de Taïwan, a déclaré que la plupart des internautes en Chine s’opposent à la suppression numérique du pays, bien que leur opposition soit souvent étouffée.
Il a remis en question la durabilité de la Chine de l’IA-tocratie.
La Chine exporte peut-être ces technologies vers d’autres pays. Mais à long terme, un tel modèle de gouvernance conduira une société à aller à l’extrême en répétant le modèle irrationnel d’élaboration des politiques pendant la période de la Révolution culturelle (en Chine). Cela conduira à son propre effondrement, a déclaré Zola à VOA.
Cet article est issu du service VOAs Mandarin.