Les data scientists ont accès à vos données sensibles. Cela pousse plus d’écoles à enseigner l’éthique – Fortune

Quelle obligation les data scientists ont-ils d’être de bons intendants des données qu’ils collectent et analysent ? Ce type de question est posé depuis des années dans les cours d’éthique des programmes de science des données, bien que l’éthique reste un sujet brûlant pour l’industrie technologique. En effet, les considérations éthiques sont souvent encore secondaires, car les entreprises privilégient plutôt les développements technologiques pour accélérer la quantité de données collectées, analysées et stockées.

Franchement, il n’y a vraiment aucune raison pour que l’industrie agisse différemment, déclare Julia Stoyanovich, professeure associée à la Tandon School of Engineering de l’Université de New York et membre de l’IEEE, ajoutant que la nouvelle génération d’ingénieurs est beaucoup plus consciente des problèmes sociaux et des implications. des technologies émergentes. Il y a une grande, grande poussée de ces ingénieurs pour commencer à changer la pratique.

Mais le statu quo commence à évoluer, à mesure que les écoles intègrent l’éthique comme une composante plus fondamentale dans la formation des futurs technologues et scientifiques des données. Certains programmes les mieux classés offrent des cours d’éthique dans le cadre de leurs programmes de base. L’Université de l’Illinois Urbana-Champaign, qui a décroché la première place en Fortunes classement des meilleurs programmes de science des données en ligne, propose un cours intitulé Éthique et politique pour la science des données. Pendant ce temps, Duke University propose un cours intitulé Data Science Ethics et le New York Universitys Center for Data Science en propose un intitulé Responsible Data Science.

Ces dernières années, il y a eu un niveau d’examen encore plus élevé, ce qui a entraîné un changement majeur dans la façon dont l’éthique est enseignée dans les programmes de science des données. Traditionnellement, tout matériel d’éthique dans les programmes de technologie était encore enseigné par des éthiciens, des sociologues et des anthropologues, et les ingénieurs n’ont pas toujours trouvé le contenu pertinent, dit Stoyanovich. Leur perspicacité est extrêmement précieuse. Mais pour un ingénieur comme moi, il est difficile de se rapporter à ce type de récit.

L’Université de Stanford est une école qui a reconnu le besoin de changement. L’université enseigne l’éthique dans le cadre de son programme d’informatique depuis des décennies, mais a récemment réévalué OMS enseigne l’éthique aux technologues. L’école d’ingénieurs en est à sa quatrième année d’offre du cours Éthique, politique publique et changement technologique, qui est enseigné conjointement par un philosophe, un spécialiste des sciences sociales, un informaticien et un politologue.

L’objectif était d’aider nos étudiants techniques à comprendre les compromis de valeur qui sont en jeu lorsqu’ils conçoivent de nouvelles technologies et comment vous gérez certaines des conséquences de la technologie, explique Jeremy Weinstein, professeur de sciences politiques. Au cours des quatre dernières années, la classe a régulièrement inscrit 250 à 350 étudiants à chaque semestre proposé. Il s’est même développé pour être proposé le soir aux professionnels en activité.

Étaient à un moment où commençaient à réfléchir à la façon dont les erreurs système de Big Tech doivent être traitées, dit Weinstein.

En plus de son cours dédié, l’Université de Stanford a introduit Embedded EthiCS pour créer des modules de programme basés sur l’éthique dans le but de les intégrer dans les cours d’informatique de premier cycle de l’université. L’éthique n’est pas un cours. C’est une pratique, dit Weinstein. Cette initiative aide les élèves à développer un ensemble de muscles pour s’engager dans ces [ethical] débats.

Pourtant, de nombreuses écoles et programmes axés sur les données ont beaucoup de retard à rattraper lorsqu’il s’agit d’intégrer l’éthique dans leurs cours.

L’enseignement et le développement de ce muscle éthique peuvent être difficiles. Comme point de départ, vous devez trouver des professeurs qui sont prêts à enseigner les sciences sociales et la technologie. C’est une sorte de nouvelle intersection, et il n’y a pas encore beaucoup d’universitaires dans cet espace, explique Nita Farahany, professeur de philosophie et de droit à la Duke University School of Law et directrice fondatrice de Duke Science & Society.

Les professeurs de ces cours d’éthique doivent faire le pont entre la façon de penser d’un informaticien et la façon de penser d’un éthicien. En conséquence, un professeur enseignant l’éthique doit être un expert dans tous les aspects techniques, juridiques, politiques et sociaux et c’est un peu une licorne dans le monde académique d’aujourd’hui.

De plus, les étudiants en technologie qui doivent suivre un cours d’éthique sont souvent aux prises avec ce type d’apprentissage pour la première fois. Il y a eu une vision de l’éthique comme une case à cocher, plutôt qu’un domaine d’enquête sérieux, dit Farahany du domaine de l’ingénierie.

Les étudiants en technologie sont habitués à regarder à travers la lentille noir et blanc des bonnes et des mauvaises réponses, explique Farahany. Ils n’ont aucun contexte pour comprendre pourquoi c’est important, pourquoi c’est important ou comment c’est pertinent pour leur future carrière. Et en plus de cela, ils sont habitués à des champs très axés sur les données, très analytiques.

Il existe un écart notable entre les universitaires qui s’efforcent d’intégrer l’éthique dans l’enseignement technologique et ce que l’industrie technologique dans son ensemble fait actuellement pour rectifier la situation.

Stoyanovich dit que la raison pour laquelle la philosophie Construire d’abord et demander pardon plus tard est toujours répandue est simple. C’est un moyen plus facile de faire des affaires, explique-t-elle. Il n’y a tout simplement pas d’incitations pour que l’industrie agisse de manière à intégrer l’éthique et la responsabilité dans le processus de conception.

Certains des problèmes que les cours universitaires établis visent à résoudre incluent la confidentialité personnelle, la cybersécurité, le biais de l’IA et la collecte et l’utilisation de données. Dans un projet de classe à Stanford, par exemple, les étudiants ont été invités à évaluer et à faire des recommandations sur la manière dont les caméras de vidéosurveillance devraient être installées sur le campus, ainsi que sur la mesure dans laquelle la technologie de reconnaissance faciale devrait être utilisée.

À une époque où les entreprises Big Tech sont aux prises avec des problèmes éthiques Facebook et la liberté d’expression, YouTube et la censure, les plateformes adtech et la confidentialité, les enjeux sont importants pour l’adaptation de l’industrie. Stoyanovich dit que l’un des dangers du développement de conception et de l’utilisation non réglementés ou irresponsables de l’IA est que la profession pourrait être discréditée à mesure que les consommateurs perdent confiance, et finalement le domaine perdra son financement. Si nous promettons trop et sous-livrons à plusieurs reprises, ce n’est pas seulement qu’il y a des dommages en ce moment, mais aussi tout le domaine sera en retrait.

Les universitaires jouent un rôle crucial dans l’intégration de l’éthique dans la technologie; les écoles forment la prochaine génération de constructeurs qui finiront par entrer sur le marché du travail. Mais les professionnels de l’informatique ou de la programmation ne sont qu’une pièce du puzzle de la responsabilité. Ce n’est pas seulement le travail des ingénieurs de s’avertir mutuellement de la façon dont leurs produits pourraient être utilisés, dit Weinstein.

Au contraire, il y a une prise de conscience croissante que la technologie éthique doit jouer un rôle important dans la responsabilité des entreprises. Stoyanovich suggère que la responsabilité soit encore plus partagée entre plusieurs équipes des entreprises Big Tech (programmeurs et technologues, analystes, professionnels de l’assurance qualité et service client) ainsi qu’avec les décideurs politiques et le grand public.

Nous devons créer un régime de responsabilité robuste et distribué où tout le monde est responsable, dit Stoyanovich.

Les collèges et les universités commencent à travailler ensemble sur cette question cruciale. Cette année, le Centre national des sciences humaines accueille son premier projet de conception de programmes d’études sur l’intelligence artificielle responsable, et 15 des meilleures universités et collèges du pays s’associeront au centre pour développer des cours de premier cycle qui traitent des questions éthiques sur le rôle de l’intelligence artificielle.

Les universités proposant des programmes de science des données semblent unanimement d’accord sur l’importance que l’éthique joue un rôle important dans l’éducation. Comme le note Weinstein : Nous repoussons l’idée que la technologie est en quelque sorte neutre ou objective.

Voyez comment les écoles que vous envisagez se sont comportées Fortunes classements des meilleurs programmes d’analyse commerciale, programmes de science des données et temps partiel, cadre, temps plein,et programmes de MBA en ligne.