Tesla a mis en scène une vidéo de démonstration du pilote automatique, déclare le directeur du logiciel

Selon Ashok Elluswamy, directeur du logiciel Autopilot de Tesla, la vidéo très médiatisée de Tesla sur son système d’aide à la conduite Autopilot qui se conduisait seul à partir de 2016 ne conduisait pas réellement lui-même.

Dans une récente déposition, Elluswamy a déclaré que la vidéo intitulée Full Self-Driving Hardware on All Teslas visait à décrire ce qui était possible pour construire le système plutôt que ce que les clients pouvaient réellement attendre du système.

La vidéo, que le PDG de Tesla, Elon Musk a tweeté un lien vers disant que Tesla conduit elle-même, montre une Tesla conduisant et se garant elle-même, évitant les obstacles et obéissant aux feux rouges et verts. La vidéo commence par une carte de titre indiquant que la personne à la place du conducteur n’est là que pour des raisons légales et qu’elle ne fait rien. La voiture roule toute seule. Selon un rapport de BloombergMusk lui-même a spécifiquement demandé cette copie.

Mais selon Elluswamy, la démo était spécifique à un itinéraire prédéterminé, par rapport à la version de production de la technologie qui reposait uniquement sur les entrées des caméras et des capteurs. Il utilisait des informations précartographiées supplémentaires pour conduire, a-t-il dit, après avoir dit aux avocats que l’itinéraire suivi par la voiture avait déjà été cartographié en 3D. Au moment où la vidéo a été réalisée, Elluswamy était un ingénieur de l’équipe qui a aidé à la vidéo.

En d’autres termes, Teslas Autopilot n’était pas capable de planifier des itinéraires dynamiques, obligeant plutôt les ingénieurs de l’entreprise à tracer l’itinéraire qu’il emprunterait aux fins de la vidéo promotionnelle.

Musk a apparemment approuvé cette tactique, selon Bloomberg. Il aurait écrit dans un e-mail puisqu’il s’agit d’une démo, c’est bien d’en coder en dur une partie, car nous remplirons le code de production plus tard dans une mise à jour OTA, et a affirmé qu’il présenterait la démo comme quelque chose qu’un Tesla * fera * être en mesure de le faire, non pas qu’il puisse le faire à la réception. Le rapport montre que Musk poussait fortement pour la démo, la qualifiant de priorité absolue et disant aux membres de l’équipe qu’il examinerait personnellement leurs rapports sur ce qu’ils avaient fait pour aider à la faire avancer.

Le New York Times avait précédemment signalé le précartographie, soulignant que les consommateurs utilisant le système n’auraient pas ce luxe, mais maintenant, nous l’avons enregistré par un responsable de Tesla. La déposition, que vous pouvez lire en entier ci-dessous, a été prise dans le cadre d’une action en justice intentée par la famille de Wei Walter Huang, décédé en 2018 lorsque son modèle X avec pilote automatique engagé s’est écrasé contre une barrière d’autoroute.

Elluswamy a également déclaré que la version d’Autopilot qui était disponible lors de la production de la vidéo n’avait aucune capacité de gestion des feux de circulation, bien qu’elle soit montrée dans la vidéo. Ce qui n’est pas clair, c’est comment exactement la vidéo a été réalisée ; Elluswamy dit qu’il ne se souvient pas si la personne assise dans le siège du conducteur a contrôlé une accélération ou un freinage ou si la voiture l’a fait. Il n’est pas non plus clair si la voiture exécutait un logiciel capable de reconnaître les feux de circulation.

L’admission n’est pas la seule partie de la déposition d’Elluswamy qui fait sourciller. Mahmood Hikmet, responsable de la recherche et du développement chez Ohmio Automation, parties en surbrillance de la transcription où Elluswamy a déclaré qu’il ne connaissait pas les considérations fondamentales de sécurité, telles que le domaine de conception opérationnelle, également connu sous le nom d’ODD.

L’expression fait référence à des situations, comme la géographie ou la météo, dans lesquelles un véhicule autonome est autorisé à fonctionner. Par exemple, si un véhicule autonome n’est capable de conduire que dans une ville spécifique dans des conditions météorologiques idéales, alors un jour de pluie dans une ville différente serait en dehors de son ODD.

Bien que vous ne vous attendiez pas à ce que la phrase apparaisse dans les conversations quotidiennes ou apparaisse dans les supports marketing, c’est certainement quelque chose que vous vous attendez à ce que la personne qui dirige le programme Autopilot sache. La Society of Automotive Engineers (SAE), l’organisation à l’origine des niveaux d’autonomie auxquels Tesla elle-même a fait référence, appelle ODD la clé de la sécurité des véhicules autonomes, et Waymo a publié une étude complète évaluant les performances de ses logiciels dans un domaine spécifique.

Musk a semblé faire preuve de mépris pour penser à ODD lors d’une apparition en podcast avec Lex Fridman. Il a dit que l’acronyme ressemble à ADD, puis a répondu à une question sur la philosophie derrière l’ODD à grande portée de Tesla (par rapport à d’autres systèmes comme GM Super Cruise, qui ne fonctionnera que dans certaines conditions) en disant que c’est assez fou de laisser les humains conduisent des voitures au lieu de machines.

Mise à jour le 19 janvier, 15h32 HE : Mise à jour pour ajouter du contexte sur l’implication de Musks dans la démo.