Cours d’éthique en informatique offert au monde

À mesure que les systèmes de prise de décision automatique sont intégrés au système judiciaire et sur le lieu de travail, des personnes pourraient potentiellement être envoyées en prison ou licenciées, en partie, par des forces automatisées. Sans personnes présentes dans la salle qui comprennent les limites de telles tactiques, le risque de préjudice en aval s’intensifie, explique Bobby Schnabel, professeur d’informatique à l’Université de Boulder et défenseur de l’accès à l’informatique.

« Nous devons commencer tôt et faire comprendre souvent que ce que nous créons, le pouvoir dont nous disposons, est vraiment immense », a-t-il déclaré.

En réponse, le département d’informatique de CU Boulders propose de nouveaux cours en ligne via Coursera axés sur l’éthique de l’informatique.

Enseignés et créés par Schnabel, les cours seront accessibles à tous dans le monde entier à partir d’octobre prochain. Ils se déroulent à votre rythme et tout le monde peut s’inscrire à tout moment.

Principales préoccupations

Schnabel craint que peu de gens comprennent les implications sociétales associées à la prolifération rapide de l’IA générative.

« Ce qui me préoccupe le plus, c’est la désinformation et les impacts de ces technologies émergentes sur les enfants », a déclaré Schnabel.

La plupart des lectures du cours sont des reportages d’actualité et des lectures appliquées à des questions d’actualité. Schnabels espère qu’en montrant les nombreux effets négatifs de la création d’applications informatiques sans garanties éthiques, il pourra inspirer une pensée critique et encourager une meilleure prise de décision au-delà du domaine des informaticiens.

Schnabel vise également à protéger les consommateurs, qui ne se rendent peut-être pas compte du mépris potentiel que certaines technologies peuvent avoir pour leur bien-être. À titre d’exemple, il cite un article sur la manière dont Instagram peut contribuer à rendre les adolescentes gênées et une conférence TED expliquant comment les navigateurs peuvent modifier l’accès aux informations politiques et sociales en fonction des interactions publicitaires.

Schnabel milite depuis longtemps en faveur de la représentation dans le monde de la technologie, en défendant l’idée selon laquelle chacun devrait se voir reflété dans les technologies que nous développons et adoptons.

En plus d’avoir cofondé la National Society for Women in Computing, Schnabel est également présidente du comité consultatif de la Computing Alliance of Hispanic Servant Institutions et a contribué à la création de l’Alliance pour l’avancement des chercheurs afro-américains en informatique. Il siège actuellement au conseil d’administration de Code.org, une organisation à but non lucratif qui propose des programmes d’études en ligne gratuits en informatique aux élèves de la maternelle à la 12e année.

Correction de cap

« Historiquement, l’éthique n’a pas été au cœur de l’informatique », a déclaré Schnabel.

Le domaine s’est initialement concentré sur la création de matériel pour effectuer des calculs commerciaux et scientifiques. « Je me souviens encore du moment où un ordinateur aussi grand qu’une pièce a changé son espace de stockage d’un mégaoctet à deux, et à quel point c’était une affaire énorme », a-t-il déclaré.

Grâce aux ordinateurs personnels, a-t-il expliqué, beaucoup ont acquis la capacité de produire et de consommer des informations via Internet et le monde a été révolutionné.

« Ce qui m’a le plus enthousiasmé au cours des 30 ou 40 dernières années, c’est simplement la disponibilité de l’information », a-t-il déclaré. « Mais désormais, presque n’importe qui peut également être une source de désinformation et celle-ci peut se propager extrêmement rapidement sans aucune vérification de la source. »

Il y a sept ans, Schnabel s’est rendu compte que les ramifications éthiques des outils créés par les informaticiens dépassaient de loin l’éducation requise pour prendre des décisions judicieuses.

Il était, à l’époque, PDG de l’Association for Computing Machinery (ACM), l’organisation phare de plus de 170 conférences sur différents aspects de l’informatique. Il a donc travaillé avec l’Association pour l’avancement de l’intelligence artificielle pour créer la conférence conjointe sur l’IA. , Éthique et Société en 2017.

En outre, il a travaillé avec un groupe d’informaticiens au sein du comité des politiques éducatives de l’ACM pour créer le référentiel de l’ACM sur l’éthique et l’informatique. Le référentiel compte désormais plus de 300 ouvrages, provenant en grande partie des médias d’information, et dont beaucoup sont référencés dans le cours de Schnabel.

Commodité de Coursera

La série de trois cours d’éthique est une spécialisation qui peut être suivie seule, mais qui est également obligatoire pour tous les étudiants qui suivent le Master of Science que CU Boulder propose via Coursera. Cela représente vingt pour cent des cours de base obligatoires du programme, ce qui, selon Schnabel, montre à quel point le collège et l’université sont sérieux dans la formation d’informaticiens éthiques.

Schnabel a vu de l’intérieur vers l’extérieur l’essor d’Internet et de l’informatique personnelle. Il a commencé à programmer au lycée en utilisant des cartes perforées. En grandissant, il souhaite voir comment sa vaste expérience pourrait être utile au monde.

« J’ai occupé divers postes de direction et j’ai pu constater qu’avoir une perspective large peut être très utile », a-t-il déclaré.

Il a déclaré qu’il considérait le cours comme une opportunité de fournir cette perspective large à un large public et, espérons-le, de créer une trajectoire pro-humaine pour la puissance massive de l’informatique.