Apprendre à penser de manière critique à l’apprentissage automatique

Les étudiants du cours MIT 6.036 (Introduction à l’apprentissage automatique) étudient les principes sous-jacents à des modèles puissants qui aident les médecins à diagnostiquer une maladie ou aident les recruteurs à sélectionner des candidats à un emploi.

Désormais, grâce au cadre des responsabilités sociales et éthiques de l’informatique (SERC), ces étudiants s’arrêteront également pour réfléchir aux implications de ces outils d’intelligence artificielle, qui viennent parfois avec leur lot de conséquences imprévues.

L’hiver dernier, une équipe de boursiers SERC a travaillé avec l’instructrice Leslie Kaelbling, la professeure Panasonic d’informatique et d’ingénierie, et les 6.036 assistants d’enseignement pour infuser les laboratoires hebdomadaires avec du matériel couvrant l’informatique éthique, les biais de données et de modèles, et l’équité dans l’apprentissage automatique. Le processus a été lancé à l’automne 2019 par Jacob Andreas, professeur adjoint du X Consortium au Département de génie électrique et d’informatique. Les boursiers du SERC collaborent au sein d’équipes multidisciplinaires pour aider les postdoctorants et les professeurs à développer de nouveaux supports de cours.

Parce que 6.036 est un cours si vaste, plus de 500 étudiants inscrits au printemps 2021 se sont attaqués à ces dimensions éthiques parallèlement à leurs efforts pour apprendre de nouvelles techniques informatiques. Pour certains, il s’agissait peut-être de leur première expérience de réflexion critique dans un cadre universitaire sur les impacts négatifs potentiels de l’apprentissage automatique.

Les boursiers SERC ont évalué chaque laboratoire pour développer des exemples concrets et des questions liées à l’éthique pour s’adapter au matériel de cette semaine. Chacun a apporté un ensemble d’outils différent. Serena Booth est étudiante diplômée du groupe de robotique interactive du Laboratoire d’informatique et d’intelligence artificielle (CSAIL). Marion Boulicault était étudiante diplômée au Département de linguistique et de philosophie et est maintenant postdoctorale au MIT Schwarzman College of Computing, où est basé le SERC. Et Rodrigo Ochigame était étudiant diplômé du programme d’histoire, d’anthropologie et de science, technologie et société (HASTS) et est maintenant professeur adjoint à l’Université de Leiden aux Pays-Bas. Ils ont collaboré étroitement avec l’assistant d’enseignement Dheekshita Kumar, MEng 21, qui a joué un rôle déterminant dans le développement du matériel de cours.

Ils ont réfléchi et itéré sur chaque laboratoire, tout en travaillant en étroite collaboration avec les assistants d’enseignement pour s’assurer que le contenu correspondait et ferait progresser les objectifs d’apprentissage de base du cours. En même temps, ils ont aidé les assistants à déterminer la meilleure façon de présenter le matériel et de mener des conversations sur des sujets ayant des implications sociales, tels que la race, le sexe et la surveillance.

Dans une classe comme 6.036, on a affaire à 500 personnes qui ne sont pas là pour apprendre l’éthique. Ils pensent qu’ils sont là pour apprendre les rouages ​​de l’apprentissage automatique, comme les fonctions de perte, les fonctions d’activation, etc. Nous avons ce défi d’essayer d’amener ces étudiants à vraiment participer à ces discussions d’une manière très active et engagée. Nous l’avons fait en liant très intimement les questions sociales au contenu technique, explique Booth.

Par exemple, dans un laboratoire sur la façon de représenter les caractéristiques d’entrée pour un modèle d’apprentissage automatique, ils ont introduit différentes définitions de l’équité, ont demandé aux étudiants de considérer les avantages et les inconvénients de chaque définition, puis les ont mis au défi de réfléchir aux caractéristiques qui devraient être saisies dans un modèle pour le rendre juste.

Quatre laboratoires ont maintenant été publiés sur MIT OpenCourseWare. Une nouvelle équipe de boursiers SERC révise les huit autres, sur la base des commentaires des instructeurs et des étudiants, en mettant l’accent sur les objectifs d’apprentissage, en comblant les lacunes et en soulignant les concepts importants.

Une approche intentionnelle

Les efforts des étudiants sur 6.036 montrent comment le SERC vise à travailler avec les professeurs d’une manière qui leur convient, déclare Julie Shah, doyenne associée du SERC et professeure d’aéronautique et d’astronautique. Ils ont adapté le processus SERC en raison de la nature unique de ce vaste cours et des contraintes de temps serrées.

Le SERC a été créé il y a plus de deux ans par le biais du MIT Schwarzman College of Computing dans le cadre d’une approche intentionnelle visant à rassembler des professeurs de disciplines divergentes dans un cadre collaboratif pour co-créer et lancer de nouveaux supports de cours axés sur l’informatique sociale et responsable.

Chaque semestre, l’équipe SERC invite une douzaine de membres du corps professoral à rejoindre un groupe d’action dédié au développement de nouveaux matériaux curriculaires (il existe plusieurs groupes d’action SERC, chacun avec une mission différente). Ils sont déterminés à qui ils invitent et cherchent à inclure des membres du corps professoral qui formeront probablement des partenariats fructueux dans des sous-groupes plus petits, explique David Kaiser, doyen associé du SERC, professeur d’histoire des sciences à Germeshausen et professeur de physique.

Ces sous-groupes de deux ou trois membres du corps professoral aiguisent leur intérêt commun au cours du mandat pour développer de nouveaux documents liés à l’éthique. Mais plutôt qu’une discipline au service d’une autre, le processus est une voie à double sens ; chaque membre du corps professoral apporte du nouveau matériel à son cours, explique Shah. Les professeurs sont attirés par les groupes d’action de l’ensemble des cinq écoles du MIT.

Une partie de cela implique de sortir de vos limites disciplinaires normales et de construire un langage, puis de faire confiance et de collaborer avec quelqu’un de nouveau en dehors de vos cercles normaux. C’est pourquoi je pense que notre approche intentionnelle a été un tel succès. Il est bon de piloter du matériel et d’apporter de nouvelles choses à votre cours, mais l’établissement de relations est essentiel. Cela en fait quelque chose de précieux pour tout le monde, dit-elle.

Avoir un impact

Au cours des deux dernières années, Shah et Kaiser ont été impressionnés par l’énergie et l’enthousiasme entourant ces efforts.

Ils ont travaillé avec environ 80 membres du corps professoral depuis le début du programme, et plus de 2 100 étudiants ont suivi des cours qui comprenaient du nouveau contenu SERC au cours de la dernière année seulement. Ces étudiants ne sont pas nécessairement tous des ingénieurs, environ 500 ont été exposés au contenu du SERC par le biais de cours offerts à l’École des sciences humaines, des arts et des sciences sociales, de la Sloan School of Management et de l’École d’architecture et de planification.

Au cœur du SERC se trouve le principe selon lequel l’éthique et la responsabilité sociale en informatique doivent être intégrées dans tous les domaines de l’enseignement au MIT, de sorte qu’elles deviennent tout aussi pertinentes que les parties techniques du programme, dit Shah. La technologie, et l’IA en particulier, touche désormais presque tous les secteurs, de sorte que les étudiants de toutes les disciplines doivent suivre une formation qui les aide à comprendre ces outils et à réfléchir profondément à leur pouvoir et à leurs pièges.

Ce n’est pas le travail de quelqu’un d’autre de comprendre pourquoi ou ce qui se passe quand les choses tournent mal. C’est notre responsabilité à tous et nous pouvons tous être équipés pour le faire. Habituons-nous à cela. Construisons ce muscle de pouvoir faire une pause et poser ces questions difficiles, même si nous ne pouvons pas identifier une seule réponse à la fin d’un ensemble de problèmes, dit Kaiser.

Pour les trois boursiers du SERC, il était particulièrement difficile de formuler soigneusement des questions éthiques lorsqu’il n’y avait pas de clé de réponse à laquelle se référer. Mais réfléchir profondément à ces problèmes épineux a également aidé Booth, Boulicault et Ochigame à apprendre, à grandir et à voir le monde à travers le prisme d’autres disciplines.

Ils espèrent que les étudiants de premier cycle et les assistants d’enseignement de 6.036 prendront ces importantes leçons à cœur et dans leur future carrière.

J’ai été inspiré et dynamisé par ce processus, et j’ai beaucoup appris, non seulement sur le matériel technique, mais aussi sur ce que vous pouvez réaliser lorsque vous collaborez dans plusieurs disciplines. Rien que l’ampleur de cet effort était excitante. Si nous avons cette cohorte de 500 étudiants qui partent dans le monde avec une meilleure compréhension de la façon de penser à ce genre de problèmes, j’ai l’impression que nous pourrions vraiment faire une différence, dit Boulicault.