Vos enfants sont espionnés ? La montée en puissance des logiciels anti-triche dans les écoles américaines

Au milieu de la nuit, les élèves du lycée Kings Peak de l’Utah sont bien éveillés et passent les examens obligatoires.

Dans cette école uniquement en ligne, qui a ouvert ses portes pendant la pandémie et a vu depuis lors ses inscriptions exploser, les élèves passent des tests depuis leur domicile aux heures qui conviennent le mieux à leur emploi du temps. Le directeur Ammon Wiemers affirme que c’est cette flexibilité qui attire les étudiants, notamment les athlètes et les adolescents ayant un emploi à temps partiel, de partout dans l’État.

Cependant, tout élève qui se sent obligé de tricher pendant que son professeur dort profondément doit savoir qu’il est toujours surveillé.

Le coût d’une commodité 24 heures sur 24 est leur vie privée. Pendant les examens, chacun de leurs mouvements est capturé sur la webcam de leur ordinateur et scruté par Proctorio, une société de surveillance qui utilise l’intelligence artificielle. Le logiciel Proctorio effectue des analyses de bureau dans le but d’attraper les candidats qui se tournent vers des ressources non autorisées, une technologie de détection de visage pour s’assurer qu’il n’y a personne d’autre dans la pièce pour les aider et une détection du regard pour repérer toute personne qui détourne le regard de l’écran pendant une période prolongée. .

Proctorio fournit ensuite des enregistrements visuels et audio aux enseignants de Kings Peak, l’algorithme attirant une attention particulière aux élèves dont les comportements pendant le test les ont signalés comme étant susceptibles de commettre des actes de malhonnêteté académique.

Ces outils de surveillance à distance se sont développés de façon exponentielle pendant la pandémie, en particulier dans les collèges et universités américains, où les administrateurs cherchant à garantir l’intégrité des examens pendant l’apprentissage à distance se sont heurtés à une vive résistance de la part des étudiants. Des pétitions en ligne ont demandé aux institutions de mettre fin au régime de surveillance ; les poursuites accusaient les outils de violer leurs droits constitutionnels et de s’appuyer sur des algorithmes racistes qui déclenchaient un signal d’alarme lorsque l’outil ne parvenait pas à détecter les visages des étudiants noirs.

Cependant, l’utilisation d’outils de surveillance à distance dans les écoles primaires et secondaires est largement passée inaperçue. Près d’un an après l’expiration de l’urgence de santé publique fédérale, une analyse réalisée par le 74 a révélé que les écoles maternelles à la 12e année à l’échelle nationale et les programmes uniquement en ligne en particulier continuent d’utiliser les outils des sociétés de surveillance numérique sur les élèves, y compris ceux dès la maternelle. enfants.

Les militants des droits civiques, qui soutiennent que les outils de surveillance de l’IA ne fonctionnent pas comme prévu, entretiennent des préjugés et vont à l’encontre des protections constitutionnelles des étudiants, ont déclaré que les problèmes de confidentialité et de sécurité sont particulièrement importants pour les jeunes enfants et les adolescents, qui peuvent ne pas être pleinement conscients de la surveillance ou de la surveillance. ses implications.

C’est le même thème auquel nous revenons toujours avec la surveillance des étudiants : ce n’est pas un outil efficace pour ce pour quoi on prétend qu’il est efficace, a déclaré Chad Marlow, conseiller politique principal à l’American Civil Liberties Union. Mais cela entraîne en réalité de réels préjudices pour les étudiants.

Wiemers est conscient que l’école, où environ 280 étudiants sont inscrits à temps plein et 1 500 autres suivent des cours à temps partiel, doit faire un compromis délicat entre un environnement de test valide et la vie privée des étudiants. Lorsque les étudiants sont soumis pour la première fois au logiciel, il a dit que c’était un peu bizarre de voir qu’une caméra les surveillait, mais contrairement au tumulte dans les universités, il a déclaré que la surveillance était devenue normalisée parmi ses étudiants et que toute personne soucieuse de sa vie privée était autorisée à prendre son tests en personne.

« C’est toujours étrange dans un environnement virtuel, c’est comme si vous vous regardiez passer le test dans le miroir », a-t-il déclaré. Mais lorsque les élèves l’utilisent davantage, ils s’y habituent.

Un placebo

À la fin de l’année dernière, le fondateur et PDG de Proctorios, Mike Olsen, a publié un article de blog en réponse à des recherches critiquant l’efficacité de l’entreprise. Un étudiant de l’Ohio féru de technologie avait mené une analyse et conclu que les capacités de détection des visages de Proctorio reposaient sur une bibliothèque de logiciels open source ayant des antécédents de préjugés raciaux, notamment une incapacité à reconnaître les visages noirs dans plus de la moitié du temps.

L’étudiant a testé les capacités de détection de visages de l’entreprise sur un ensemble de données de près de 11 000 images, appelé FairFace, qui représentaient des personnes de plusieurs races et ethnies, avec des résultats montrant une incapacité à distinguer les visages noirs dans 57 % des cas, ceux du Moyen-Orient dans 41 % des cas. le temps et les blancs font face 40% du temps. Un taux d’échec aussi élevé était problématique pour Proctorio, qui s’appuie sur sa capacité à signaler les tricheurs en se concentrant sur les traits du visage et les mouvements des gens.

Le message d’Olsens a cherché à discréditer la recherche, arguant que même si l’ensemble de données FairFace avait été utilisé pour identifier les biais dans d’autres algorithmes de détection faciale, les images n’étaient pas représentatives de l’expérience d’examen à distance des candidats en direct.

Par exemple, écrit-il, les enfants et les dessins animés ne passent pas de tests, donc inclure ces images dans l’ensemble de données est irréaliste et non représentatif.

Pour Ian Linkletter, un bibliothécaire canadien impliqué dans une bataille de longue date avec Proctorio pour savoir si ses produits étaient nocifs, la réponse d’Olsen était déconcertante. Bien sûr, les personnages de dessins animés ne passent pas de tests. Mais les enfants, dit-il, le font certainement. Ce dont il n’était pas sûr, cependant, c’était si ces jeunes candidats étaient surveillés par Proctorio, alors il a décidé de le découvrir.

Il a trouvé deux cas, tous deux au Texas, où Proctorio était utilisé dans la maternelle à la 12e année, notamment dans une école éloignée liée à l’Université du Texas à Austin. Linkletter a partagé ses conclusions avec le 74, qui a utilisé l’outil de passation des marchés publics GovSpend pour identifier d’autres districts ayant des contrats avec Proctorio et ses concurrents.

Plus de 100 districts scolaires de la maternelle à la 12e année se sont appuyés sur Proctorio et ses concurrents, selon les données GovSpend, la majorité des dépenses étant réalisées au plus fort de la pandémie.

Il était tout simplement évident que Proctorio avait des clients de la maternelle à la 12e année et induisait en erreur les enfants de moins de 18 ans utilisant leur produit, a déclaré Linkletter, ajoutant que les jeunes pourraient être plus sensibles aux méfaits potentiels d’une surveillance persistante. Les jeunes enfants, a-t-il soutenu, sont incapables de véritablement consentir à être surveillés par le logiciel et peuvent ne pas comprendre pleinement ses ramifications potentielles.

Proctorio n’a pas répondu aux multiples demandes de commentaires du 74. Fondée en 2013, la société basée en Arizona affirme avoir fourni des services de surveillance à distance au plus fort de la pandémie à plus de 2 000 établissements d’enseignement dans le monde.

En 2020, Proctorio a poursuivi Linkletter pour une série de tweets dans lesquels le spécialiste des technologies d’apprentissage de l’Université de la Colombie-Britannique de l’époque faisait un lien avec des vidéos YouTube produites par Proctorio, que l’entreprise avait mises à la disposition des instructeurs. Utilisation de la vidéo sur les outils Fonction Mouvement oculaire anormal, Linkletter tweeté que cela montrait le préjudice émotionnel que vous causez aux étudiants en utilisant cette technologie.

Le procès de Proctorio alléguait que l’utilisation par Linkletter des vidéos de la société, qui n’étaient pas répertoriées et ne pouvaient être visionnées que par ceux disposant du lien, équivalait à une violation du droit d’auteur et à la distribution de matériel confidentiel. En janvier, la Cour suprême du Canada a refusé de prendre en compte l’affirmation de Linkletter selon laquelle le litige visait spécifiquement à le faire taire.

Bien qu’il existe peu de recherches indépendantes sur l’efficacité des outils de surveillance à distance pour prévenir la tricherie, une étude de 2021 a révélé que Proctorio n’avait pas réussi à détecter les candidats à qui il avait été demandé de tricher. Les chercheurs ont conclu que le logiciel était meilleur que la prise d’un placebo : il a une influence positive, non pas parce qu’il fonctionne, mais parce que les gens croient qu’il fonctionne, ou qu’il pourrait fonctionner.

Une préoccupation légitime

Une rubrique du lycée UT, une école en ligne de la maternelle à la 12e année gérée par l’Université du Texas, indique que Proctorio est utilisé pour les tests de crédit par examen, qui attribuent des crédits de cours aux étudiants capables de démontrer leur maîtrise dans une matière particulière. Pour les élèves de la maternelle et des première et deuxième années, le district associe la surveillance de district à un navigateur sécurisé Proctorio, qui interdit aux candidats de quitter l’examen en ligne pour utiliser d’autres sites Web ou programmes. À partir de la troisième année, selon la rubrique téléchargée sur le site Web de l’école, les candidats doivent utiliser la surveillance en ligne à distance de Proctorios.

Proctorio n’est pas le seul outil de surveillance à distance utilisé dans les écoles K-12. Les données GovSpend indiquent, par exemple, que le district scolaire de Las Vegas, dans le Nevada, a dépensé plus de 1,4 million de dollars depuis 2018 en contrats avec un concurrent de Proctorio, Honorlock.

Hormis Wiemers, les représentants des écoles mentionnés dans cet article n’ont pas répondu aux demandes d’entretien ou ont refusé de commenter. Honorlock n’a pas répondu aux demandes des médias.

Des documents indiquent que les établissements de la maternelle à la 12e année continuent de soumettre les apprenants à distance à des analyses de salle, même après qu’un juge fédéral a jugé que le recours à cette pratique par une université était inconstitutionnel. En 2022, un juge fédéral s’est rangé du côté d’un étudiant de l’Université d’État de Cleveland, qui alléguait qu’une analyse de la chambre effectuée avant un examen en ligne dans l’établissement de l’Ohio violait ses droits du quatrième amendement contre les perquisitions et saisies déraisonnables. Le juge a statué que l’analyse était déraisonnable, ajoutant que les analyses de pièce vont là où les gens ne le feraient pas autrement, du moins pas sans mandat ou invitation.

Marlow de l’ACLU dit qu’il trouve les scans de salle particulièrement troublants, en particulier dans le contexte de la maternelle à la 12e année. Du point de vue de l’équité, il a déclaré que de telles analyses pourraient avoir des effets négatifs disproportionnés sur les étudiants sans papiers, ceux vivant avec des membres de leur famille sans papiers et les étudiants vivant dans la pauvreté. Il s’est dit préoccupé par le fait que les informations recueillies lors des analyses des chambres pourraient être utilisées comme preuve pour les contrôles d’immigration.

Wiemers, le directeur de l’Utah, a déclaré que Proctorio sert de moyen de dissuasion contre la tricherie, mais que les éducateurs devraient éviter l’envie de répondre aux alertes Proctorio par une discipline rapide. Dans les cas où Proctorio a surpris des étudiants en train de tricher, il a déclaré qu’au lieu de se voir attribuer une note d’échec, il leur était simplement demandé de repasser le test.

Il y a des limites au logiciel, nous devons admettre qu’il n’est pas parfait, ni même proche, a-t-il déclaré. Mais si nous nous attendons à ce que ce soit le cas et que les enjeux soient élevés et trop punitifs, je dirais [students] avoir une préoccupation légitime.

• Cette histoire a été produite par The 74, une organisation de presse indépendante à but non lucratif axée sur l’éducation en Amérique.
  

• Cet article a été corrigé le 18 avril 2024 pour indiquer qu’une affaire de violation du droit d’auteur intentée par Proctorio contre Ian Linkletter est toujours en cours de plaidoirie devant le tribunal. Une version antérieure avait mal interprété le litige comme étant jugé en faveur de Proctorio.