L’ami de l’IA pour les élèves des écoles publiques tombe à plat

Une plateforme d’IA baptisée Ed était censée être l’ami pédagogique d’un demi-million d’élèves des écoles publiques de Los Angeles. Dans des conversations écrites, Ed orienterait les élèves vers des ressources académiques et de santé mentale, ou indiquerait aux parents si leurs enfants avaient assisté aux cours ce jour-là et leur fournirait leurs derniers résultats aux tests. Ed serait même capable de détecter et de réagir à des émotions telles que l’hostilité, la joie et la tristesse.

Alberto Carvalho, le directeur du district, a parlé d’Ed en termes audacieux. Dans un discours prononcé en avril pour promouvoir le logiciel, il a promis qu’il démocratiserait et transformerait l’éducation. En réponse aux sceptiques de l’IA, il a demandé : « Pourquoi ne pas laisser cette approche ludique et éducative capter et captiver leur attention, être le facteur de motivation ? »

Une fille de septième année qui a testé le chatbot personnifié par un soleil souriant et animé a déclaré : « Je pense qu’Ed m’aime bien », a déclaré M. Carvalho.

Los Angeles a accepté de payer à une start-up, AllHere, jusqu’à 6 millions de dollars pour développer Ed, une petite partie du budget annuel de 18 milliards de dollars du district. Mais à peine deux mois après la présentation de M. Carvalho en avril lors d’une conférence technologique prestigieuse, la fondatrice et directrice générale d’AllHere a quitté son poste et l’entreprise a licencié la plupart de son personnel. AllHere a indiqué sur son site Web que les congés sans solde étaient dus à notre situation financière actuelle.

Les entreprises d’IA font beaucoup de publicité auprès des écoles, qui dépensent des dizaines de milliards de dollars par an en technologie. Mais l’effondrement soudain d’AllHere illustre certains des risques liés à l’investissement de l’argent des contribuables dans l’intelligence artificielle, une technologie au potentiel énorme mais aux résultats médiocres, en particulier en ce qui concerne les enfants. De nombreuses questions complexes sont en jeu, notamment la confidentialité des données des élèves et l’exactitude des informations fournies par les chatbots. L’IA peut également aller à l’encontre d’un autre intérêt croissant des responsables de l’éducation et des parents, à savoir réduire le temps passé devant les écrans des enfants.

Natalie Milman, professeure de technologie éducative à l’université George Washington, a déclaré qu’elle conseillait souvent aux écoles d’adopter une approche attentiste pour l’achat de nouvelles technologies. Bien que l’IA mérite d’être utilisée et testée, a-t-elle déclaré, elle a mis en garde contre les écoles qui parlent de manière nébuleuse de cet outil glorifié. Il a des limites et nous devons nous assurer que nous sommes critiques à l’égard de ce qu’il peut faire et de son potentiel de nuisance et de désinformation.

AllHere n’a pas répondu aux demandes d’interview ni aux questions écrites.

Dans un communiqué, Britt Vaughan, porte-parole du district scolaire de Los Angeles, a établi une distinction entre les élèves distraits qui sont absorbés par leurs téléphones pendant la journée scolaire et les élèves qui utilisent des ordinateurs portables ou des tablettes pour interagir avec la plateforme Ed, qui, selon lui, est destinée à fournir des parcours éducatifs individualisés pour répondre à l’apprentissage des élèves.

Anthony Aguilar, chef de l’éducation spécialisée du district, a déclaré que malgré l’effondrement d’AllHere, une version tronquée d’Ed restait accessible aux familles des 100 écoles prioritaires du district, dont les élèves ont des difficultés scolaires et d’assiduité.

Mais ce logiciel n’est pas un chatbot sophistiqué et interactif. Il s’agit d’un site Web qui rassemble des informations provenant de nombreuses autres applications que le district utilise pour suivre les devoirs, les notes et les services d’assistance. Les élèves qui utilisent le site peuvent également effectuer certaines activités d’apprentissage sur la plateforme, comme des problèmes de mathématiques.

Le chatbot Ed promu par M. Carvalho a été testé auprès d’élèves de 14 ans et plus, mais il a été mis hors ligne pour affiner la manière dont il répond aux questions des utilisateurs, a déclaré M. Aguilar. L’objectif est que le chatbot soit disponible en septembre, un défi étant donné qu’AllHere était censé fournir un soutien technique et une formation continus au personnel scolaire, selon son contrat avec le district. Le district a déclaré qu’il espérait qu’AllHere serait racheté et que le nouveau propriétaire continuerait à fournir des services.

M. Aguilar a déclaré que l’idée du logiciel était née au sein du district, dans le cadre du plan de M. Carvalhos visant à aider les étudiants à se remettre des effets scolaires et émotionnels de la pandémie.

AllHere a remporté un appel d’offres pour sa construction, a déclaré M. Aguilar.

Mais le projet représentait un défi de taille et de taille pour la start-up, surtout connue comme fournisseur de messages texte automatisés des écoles aux familles.

Selon Crunchbase, AllHere a attiré 12 millions de dollars de financement en capital-risque. Sa fondatrice et directrice générale, Joanna Smith-Griffin, aujourd’hui âgée de 33 ans, a été citée dans Forbes, CBS et d’autres médias pour raconter une histoire convaincante. En tant qu’ancienne enseignante dont les propres élèves étaient souvent absents, a-t-elle déclaré, elle a fondé AllHere en 2016 pour aider à résoudre le problème.

L’envoi automatisé de SMS semblait être une solution adaptée au moment où la pandémie de Covid-19 a commencé et où l’absentéisme chronique est devenu une crise nationale. Au printemps 2020, AllHere a acquis une technologie développée par Peter Bergman, économiste et expert en technologies de l’éducation. Elle a permis aux écoles d’envoyer des SMS aux parents pour les informer de leur présence, des devoirs manqués, des notes et d’autres problèmes.

Mme Smith-Griffin a souvent évoqué la création d’AllHere au sein des Harvard Innovation Labs, un programme universitaire destiné à soutenir les étudiants entrepreneurs. Selon Matt Segneri, directeur exécutif des laboratoires, Mme Smith-Griffin a commencé à s’associer à ce programme alors qu’elle était étudiante de premier cycle puis de troisième cycle à la Harvard Extension School.

Comme beaucoup de petites start-ups, l’entreprise a modifié sa mission au fil du temps. L’année dernière, AllHere a commencé à parler davantage d’un chatbot intuitif alimenté par l’IA. AllHere fournirait de l’intelligence artificielle aux écoles tout en gardant un humain dans la boucle, a déclaré l’entreprise, ce qui signifie que des modérateurs humains superviseraient l’IA pour assurer la sécurité et la sûreté d’une proposition potentiellement coûteuse et à forte intensité de main-d’œuvre.

Stephen Aguilar, professeur d’éducation à l’Université de Californie du Sud, qui n’a aucun lien de parenté avec M. Aguilar des écoles de Los Angeles, a déclaré qu’il était assez courant que des efforts ambitieux en matière de technologie scolaire échouent. Il a travaillé auparavant comme développeur de logiciels éducatifs, y compris sur certains projets qui n’ont pas pu être livrés comme promis.

Les districts ont des besoins très complexes et de nombreuses préoccupations en matière de sécurité, a-t-il déclaré. Mais ils manquent souvent de l’expertise technique nécessaire pour vraiment vérifier ce qu’ils achètent.

L’incursion dans l’intelligence artificielle n’est pas la première fois que Los Angeles fait un gros pari sur les technologies éducatives, avec des résultats discutables. À partir de 2013, sous la direction d’un précédent surintendant, le district a dépensé des dizaines de millions de dollars pour acheter des iPad préchargés avec des supports pédagogiques, mais cet effort a été entaché par des problèmes de sécurité et des incidents techniques.

Dans son discours d’avril, M. Carvalhos, lors d’une conférence organisée par l’Université d’État de l’Arizona et GSV Ventures, une société de capital-risque, a déclaré que le chatbot Ed aurait accès aux données des étudiants sur les résultats des tests, la santé mentale, la santé physique et le statut socio-économique de la famille.

Mme Smith-Griffin l’a rejoint sur scène pour expliquer que les données des étudiants vivraient dans un jardin clos, accessible uniquement au sein de l’écosystème Ed.

Mme Smith-Griffin n’a pas répondu aux demandes d’interview. M. Vaughan, des écoles de Los Angeles, a déclaré que le district protégerait la confidentialité et la sécurité des données sur la plateforme, quel que soit le sort réservé à AllHere en tant qu’entreprise.

En avril, AllHere a déclaré qu’elle servait 9 100 écoles dans 36 États. Selon les informations de The74, un site d’information sur l’éducation, certains des autres contrats de districts scolaires d’AllHere, de l’ordre de cinq chiffres, étaient minuscules par rapport à son accord avec Los Angeles, qui avait déjà rapporté à l’entreprise plus de 2 millions de dollars.

Certains clients en dehors de Los Angeles ont été informés que les services de l’entreprise étaient pratiquement indisponibles.

Les écoles publiques du comté de Prince Georges dans le Maryland ont appris par AllHere le 18 juin qu’à compter d’aujourd’hui, la start-up ne serait plus en mesure de fournir son service de messagerie texte, a déclaré une porte-parole du district, en raison de circonstances financières imprévues.

Susan C. Beachy recherche contributive.