POV : Est-ce la responsabilité des concepteurs si une application crée une dépendance ?

Si c’était aussi simple. La plupart des designers ont autant d’autonomie que n’importe quel employé d’une entreprise. Lorsque Guillaume a vu le contenu controversé de YouTube alimenté par l’IA des utilisateurs, il a proposé un changement d’algorithme, en travaillant en tandem avec différents ingénieurs pour aider à présenter des solutions alternatives. Après avoir présenté le travail à YouTube, la direction a simplement répondu que les solutions de Guillaume n’étaient pas au centre de l’attention, mais le temps de visionnage l’était. Tout comme les concepteurs travaillent souvent sur un ingrédient de ce bol de soupe sans fond (et ne sont pas techniquement responsables de l’ensemble du résultat final), les technologies potentiellement dangereuses ne sont pas toujours créées de manière malveillante, parfois de manière naturelle, par la direction qui se concentre sur différents domaines.

Je pense que la façon dont nous traitons les dilemmes éthiques dépend de la façon dont l’entreprise pour laquelle nous travaillons les traite, déclare Lara Mendona, qui a auparavant travaillé comme responsable de la conception de produits chez Bumble, directrice principale de la conception de produits chez Twitter et directrice de la conception et vice-présidente. -président de Tumblr (Labs). Lorsque je travaillais chez Bumble, par exemple, j’étais encouragé à remettre en question le statu quo en tant que designer, mais honnêtement, c’est assez rare. La plupart des entreprises placent les utilisateurs en dernier lorsque les choses se compliquent, et considèrent les concepteurs qui posent des questions difficiles comme difficiles, perturbateurs et même peu performants. Malheureusement, se conformer peut être la clé du succès dans le domaine technologique.

Il peut être difficile d’imaginer où la question de l’éthique entre en jeu dans la journée de travail d’un concepteur de produits chez Twitter ou chez tout autre géant des médias sociaux. Selon Lara, chaque équipe produit avec laquelle elle a travaillé en a discuté et s’en soucie profondément. Mais elle ne se souvient pas avoir jamais vu la direction exécutive et le conseil d’administration faire le même exercice avec leurs travailleurs. Je pense que c’est là le vrai problème. Les designers aiment s’imaginer comme des êtres puissants qui façonnent les produits et les marques au profit des gens, mais agissent généralement en fonction de ce que ceux qui sont plus puissants que nous pensent devraient faire pour générer des chiffres qui impressionneront les investisseurs, ajoute-t-elle.