Un professeur adjoint en informatique étudie les coins sombres d’Internet – News 24

La vie à l’ère numérique a ajouté une chose de plus au vieux dicton sur la mort et les impôts : les gens vont être des imbéciles sur Internet.

Qu’il s’agisse d’un troll anonyme remettant en question votre filiation ou d’une campagne de propagande d’une puissance étrangère, le rapport signal/bruit sur les réseaux sociaux s’est bien dégradé ces dernières années. Cela ne mentionne même pas les marchands de haine, les théoriciens du complot et les menteurs purs et simples qui veulent que leurs opinions biaisées deviennent vos opinions.

Le professeur adjoint Jeremy Blackburn, membre du corps professoral du département d’informatique des Watson Colleges, fait des recherches sur les mauvais acteurs en ligne depuis plus de 10 ans. Ce voyage l’a amené dans des endroits sombres où les étrangers ont peur de marcher, mais il espère qu’en éclairant là-bas, nous pourrons commencer à comprendre comment les réparer.

Je ne pense pas que les problèmes soient nouveaux. Ce sont des problèmes humains fondamentaux, dit Blackburn. Ce qui est différent, c’est que cela devient un problème socio-technique plutôt qu’un simple problème social. Internet ne rend pas les gens mauvais, il leur permet simplement d’être pires et leur permet de trouver d’autres personnes qui sont également mauvaises.

DU JEU AUX MÉDIAS SOCIAUX

Blackburn s’est d’abord intéressé aux ordinateurs alors qu’il grandissait en Floride, se connectant avec d’autres utilisateurs du monde entier grâce à des jeux de rôle en ligne massivement multijoueurs (MMORPG) tels qu’Ultima Online. Les joueurs ont adopté des avatars de personnages d’épée et de sorcellerie pour des quêtes visant à conquérir des royaumes et à combattre des monstres.

Parce que Blackburn et ses amis étaient intelligents avec le code de programmation, ils trouvaient parfois des moyens de semer le chaos. Une fois, son clan a construit une maison virtuelle devant un point d’entrée clé et a tiré des flèches de l’intérieur sur les autres joueurs qui s’approchaient. Une autre astuce, qui les a fait atterrir dans la prison des jeux, consistait à tuer un personnage et à voler les plans d’un nouveau type de bâtiment en cours de test bêta.

Ouais, ce n’étaient pas exactement des anges.

Si vous avez fait ce genre de choses en personne lors d’un jeu Dungeons & Dragons, vous pourriez recevoir un coup de poing dans la bouche, dit Blackburn en riant. Mais le fait qu’il soit virtuel a permis un tout autre niveau de malice.

Comme beaucoup d’adolescents qui aiment coder, Blackburn s’est dirigé vers l’université dans son cas, l’Université de Floride du Sud (USF) à Tampa avec l’intention de concevoir des jeux informatiques. Ses intérêts se sont ensuite déplacés vers les technologies sous-jacentes qui rendent les jeux partagés possibles, tels que les systèmes distribués qui répartissent divers composants sur plusieurs ordinateurs.

Pour sa thèse de doctorat également à l’USF, il est revenu sur l’idée de mauvais comportement en ligne en étudiant la tricherie dans les jeux sur Internet, et cela a tracé un chemin direct vers le type de recherche qu’il fait aujourd’hui.

Tout en obtenant ses diplômes, Blackburn a travaillé pendant plus d’une décennie dans l’industrie privée, notamment en tant que développeur principal dans la société de préparation aux tests Boson Software et en tant qu’architecte logiciel dans sa propre entreprise, Pallasoft. Il a également passé trois ans en tant que chercheur associé à Telefonica Research à Barcelone, en Espagne.

Son passage dans le milieu universitaire, d’abord à l’Université de l’Alabama à Birmingham et maintenant à l’Université de Binghamton, a coïncidé avec la prolifération et l’influence de plates-formes grand public telles que Facebook et Twitter, ainsi que d’applications de niche telles que Telegram, Parler, 4chan et Gab.

Les choses se sont éloignées des blogs et des sites similaires au cours des 10 dernières années, dit-il. Les gens veulent des médias sociaux interactifs, ils veulent pouvoir interagir les uns avec les autres plutôt que de simplement crier sur une tribune.

Dans notre société polarisée, cependant, ces interactions de va-et-vient peuvent devenir carrément désagréables.

SUIVRE LES TROLLS

Blackburn est le co-fondateur du laboratoire international de recherche axée sur les données pour la modélisation et l’analyse avancées (iDRAMA), qui comprend plus de deux douzaines de professeurs, doctorants et chercheurs de l’industrie du monde entier.

Dans diverses configurations, les membres d’iDRAMA ont étudié presque toutes les plateformes de médias sociaux, des plus dominantes comme Twitter aux paradis de la suprématie blanche comme Gab et 4chan. Le seul qu’ils ignorent est Facebook, car la collecte de données à partir de là est devenue de moins en moins fiable.

Le laboratoire iDRAMA a publié des recherches sur QAnon, la montée des sentiments anti-asiatiques et antisémites, l’utilisation d’images d’actualité manipulées (également appelées faussetographie), la cyberintimidation, la misogynie, les campagnes de désinformation parrainées par l’État et plus encore.

C’est un tour d’horizon du pire que l’humanité a à offrir, et parfois les ennemis ripostent. Un article récent de 4chan, par exemple, affirmait que Blackburn était un recruteur du Hamas et qu’il avait reçu quelques menaces inquiétantes au fil des ans. (Heureusement, rien n’en est sorti.)

Blackburn favorise une atmosphère de camaraderie entre ses étudiants et ses pairs, accueillant des conversations ouvertes afin que personne ne se sente submergé par la haine sur Internet.

Si vous ne regardez pas le contenu, vous ne pouvez pas vraiment faire de recherche à ce sujet, dit-il, mais si vous regardez le contenu trop ou trop profondément si vous regardez dans l’abîme un peu trop longtemps, vous risquez de tomber dedans. C’est difficile de marcher sur cette ligne, et j’ai certainement eu des échecs en cours de route.

Gianluca Stringhini, professeur adjoint à l’Université de Boston et cofondateur du laboratoire iDRAMA, loue la volonté de Blackburn de penser en dehors des limites des méthodes informatiques traditionnelles.

Lorsque Jeremy et moi avons commencé à travailler ensemble, nous avons réalisé que l’étude de ces problèmes sociotechniques émergents nécessitait des techniques qui ne relèvent pas vraiment des méthodes de recherche établies dans nos domaines, dit Stringhini.

Cinq ans plus tard, nous combinons les réseaux informatiques, la sécurité, l’analyse graphique, la psychologie et d’autres disciplines pour brosser un tableau complet des informations militarisées en ligne. Peu de chercheurs seraient à l’aise avec cela, mais Jeremy a une vision unique et n’a pas peur de rompre avec les normes de la recherche.

RETOURNER LES ROCHES

Plus tôt cette année, Blackburn a reçu un prix CAREER de 517 484 $ de la National Science Foundation sur cinq ans pour son projet Towards a Data-Driven Understanding of Online Sentiment. Le prix CAREER soutient les professeurs qui ont le potentiel de servir de futurs modèles académiques.

Au cœur du projet se trouve la conception d’une meilleure façon de former l’apprentissage automatique qui effectue la majeure partie de la modération du contenu sur les plateformes de médias sociaux sur la façon de juger le caractère offensant des images utilisées dans les mèmes.

Actuellement, un logiciel d’intelligence artificielle essaie de déterminer si une image particulière est mauvaise ou non, mais Blackburn veut prendre une astuce du jeu en ligne en lui présentant deux images et en demandant laquelle est la pire. Le processus est similaire au système de matchmaking qui place les joueurs dans des groupes de compétences similaires, et non des personnes 1 000 fois meilleures ou pires que vous.

Au lieu de regarder des images isolément et de porter un jugement sur ce contenu individuel, c’est plutôt comme les commander, dit-il. N’apprenaient pas si quelque chose est raciste ou non, apprenaient ce qui est plus raciste. Qui sait ce que bien trouver, mais étaient convaincus que cela mènera à quelque chose d’intéressant.

Blackburn admet que lui et ses collègues d’iDRAMA discutent parfois de la question de savoir si leurs recherches aident les crétins d’Internet à creuser plus profondément et à échapper à une détection future. Peut-être que s’ils ne retournaient pas les rochers, les méchantes créatures en dessous resteraient là et ne sortiraient jamais.

En tant qu’informaticien, cependant, Blackburn pense qu’en apprendre davantage sera une étape importante pour freiner ce qui est devenu une menace politique et sociale. Il soutient qu’il s’agit également d’une crise de santé publique : la haine en ligne affecte notre bien-être mental, et la désinformation sur le COVID-19 a entraîné davantage de décès et d’hospitalisations.

Nous avons cette technologie incroyablement puissante et révolutionnaire qui existe depuis moins d’une génération, dit-il. J’espère que cela fournira les connaissances et les outils nécessaires pour devenir plus résilient, plus robuste et moins sensible à ce type de comportement, et pour commencer à trouver des moyens d’y remédier activement.