Un ancien chauffeur d’ Uber intente une action en justice pour un logiciel de reconnaissance faciale raciste
Un chauffeur Uber qui a perdu son emploi lorsque le logiciel automatisé de reconnaissance faciale ne l’a pas reconnu accuse l’entreprise de discrimination raciale indirecte dans une affaire juridique.
Le chauffeur noir, qui a travaillé sur la plate-forme Uber de 2016 à avril 2021, a déposé une plainte auprès du tribunal du travail alléguant que son compte avait été illégalement désactivé lorsque le logiciel de vérification faciale utilisé pour connecter les chauffeurs à l’application de covoiturage a décidé qu’il n’était pas qui il a dit qu’il l’était.
L’Independent Workers Union of Great Britain (IWGB), qui soutient l’action, a affirmé qu’au moins 35 autres conducteurs avaient vu leur enregistrement auprès d’Uber résilié en raison d’erreurs présumées avec le logiciel depuis le début de la pandémie. Il demande à Uber de supprimer l’algorithme raciste et de réintégrer les conducteurs licenciés.
Uber a déclaré qu’il réfutait fermement les affirmations totalement infondées et qu’il s’était engagé à lutter contre le racisme et à être un champion de l’égalité à la fois à l’intérieur et à l’extérieur de notre entreprise. La société a déclaré que les contrôles étaient conçus pour protéger la sûreté et la sécurité de tous ceux qui utilisent l’application en s’assurant que le bon conducteur utilise son compte. Les conducteurs peuvent choisir la vérification humaine de leur image, et lorsque la technologie est choisie, il y a toujours au moins deux examens d’experts humains avant toute décision de retirer un conducteur, a-t-elle déclaré.
Uber utilise le logiciel depuis avril 2020. En 2019, Microsoft, qui fabrique le logiciel, a reconnu que le logiciel de reconnaissance faciale ne fonctionnait pas aussi bien pour les personnes de couleur et pouvait ne pas les reconnaître.
Des études sur plusieurs progiciels de reconnaissance faciale ont montré que les taux d’erreur lors de la reconnaissance des personnes à la peau plus foncée étaient plus élevés que chez les personnes à la peau plus claire, bien que Microsoft et d’autres aient amélioré les performances. Uber a déclaré que son logiciel ne reposait pas sur la numérisation d’un grand nombre de visages, qui avaient été accusés d’avoir introduit des erreurs. Au contraire, il a vérifié une photo déjà téléchargée du conducteur par rapport à son selfie fraîchement soumis.
A Londres, neuf chauffeurs privés sur dix sont des Britanniques noirs ou noirs, des Britanniques asiatiques ou asiatiques, ou métis, selon une récente enquête de TfL.
Ubers continue d’utiliser un algorithme de reconnaissance faciale inefficace sur les personnes de couleur est discriminatoire, a déclaré Henry Chango Lopez, secrétaire général de l’IWGB. Des centaines de chauffeurs et de coursiers qui ont servi pendant la pandémie ont perdu leur emploi sans aucune procédure régulière ni preuve d’acte répréhensible.
Un chauffeur nigérian qui a travaillé sur la plate-forme Uber Eats à Manchester jusqu’à son verrouillage en mars après plusieurs tentatives infructueuses à l’aide du logiciel de vérification faciale, a déclaré que sa famille avait subi de graves souffrances en conséquence.
Abiodun Ogunyemi, marié et père de trois enfants, a déclaré qu’il avait accumulé des dettes si importantes qu’il ne pouvait pas payer le billet de bus de son fils pour se rendre à l’école. Il dit que la photo sur les disques Ubers ne présentait pas les cheveux ou la barbe plus longs qu’il a actuellement, mais il a une cicatrice distinctive sur un œil et le reste de son visage est visible. Je pense que l’algorithme est discriminatoire envers les personnes de couleur, a-t-il déclaré. Je connais environ cinq personnes noires à qui la même chose est arrivée.
Uber a déclaré que toute personne supprimée de la plate-forme pourrait faire appel de la décision, avec un examen humain supplémentaire.
Le 10 avril, le conducteur de l’affaire test, qui a demandé à ne pas être nommé, a tenté de se connecter pour travailler en soumettant une photo via l’application, mais a reçu un message d’Uber disant qu’il n’avait pas vérifié son identité et qu’il avait été exclu de le système pendant 24 heures. Il a soumis une deuxième photo après cette période, qui n’a pas fonctionné non plus.
Selon sa réclamation, quatre jours plus tard, son compte a été désactivé et un message lui a été envoyé indiquant : Notre équipe a mené une enquête approfondie et la décision de mettre fin au partenariat a été prise de manière permanente. L’affaire ne fait pas l’objet d’un examen plus approfondi.
Son cas est également soutenu par l’organisation Black Lives Matter qui a déclaré: L’économie des concerts, qui crée déjà une immense précarité pour les travailleurs clés noirs, est maintenant encore exacerbée par ce logiciel.
Microsoft a refusé de commenter une affaire judiciaire en cours.