La FTC met en garde les entreprises contre les allégations d’IA

Le 27 février, la Federal Trade Commission (FTC) a publié un article de blog conseillant aux entreprises de surveiller leurs allégations concernant leur utilisation de l’intelligence artificielle (ou IA). Selon l’agence, les entreprises qui s’appuient (ou prétendent s’appuyer) sur l’IA peuvent avoir des ennuis avec la FTC en exagérant les allégations de leurs produits, en promettant trop et en sous-livrant, et en ne tenant pas correctement compte des risques raisonnablement prévisibles pour les consommateurs. Le blog de la FTC sur ce sujet indique que l’agence surveille de près l’évolution de l’utilisation de cette technologie et qu’elle n’hésitera pas à utiliser son pouvoir d’exécution pour sanctionner les comportements qu’elle considère comme déloyaux ou trompeurs.

Le moment choisi par la FTC pour publier cet article de blog n’est pas accidentel : au cours des derniers mois, l’IA est devenue un mot à la mode pour de nombreuses entreprises de divers secteurs, notamment la technologie, la médecine, la finance, les médias et autres, et a ainsi attiré l’attention des médias. . Alors que l’utilisation de l’IA par les entreprises pour améliorer leurs produits et services n’a rien de nouveau, la technologie a récemment été popularisée par les chatbots et d’autres technologies qui généralisent les systèmes d’IA. Ces systèmes reposent sur de nouvelles technologies et ont besoin de grandes quantités de données pour que les systèmes puissent être entraînés à prendre des décisions de type humain, ce qui signifie que l’utilisation de l’IA soulève potentiellement des problèmes de protection des consommateurs et de confidentialité des données (entre autres risques, que vous pouvez lire plus à propos d’ici).

C’est là qu’intervient la FTC. L’agence a régulièrement averti les entreprises de ses préoccupations concernant l’IA, en particulier en ce qui concerne la discrimination raciale et d’autres formes de discrimination. Dans ses dernières directives, la FTC s’est concentrée spécifiquement sur la publicité et a conseillé aux entreprises de s’assurer qu’elles sont transparentes quant au fonctionnement de leurs produits d’IA et à ce que la technologie peut faire. Par exemple, selon la FTC, les ordinateurs n’ont pas encore prouvé qu’ils peuvent faire des prédictions fiables du comportement humain, de sorte que toute affirmation publicitaire non fondée de cette nature pourrait être considérée comme trompeuse. De même, les affirmations selon lesquelles un produit alimenté par l’IA fonctionne mieux qu’un produit non-IA doivent également être prouvées. Les entreprises utilisant l’IA dans leurs produits doivent comprendre exactement comment cette technologie fonctionne et doivent faire de la publicité en conséquence auprès de leurs consommateurs, sinon elles s’exposent potentiellement à une action coercitive de la FTC.

La FTC s’est également concentrée sur l’utilisation de la technologie de l’IA en ce qui concerne la confidentialité des données des consommateurs. Non seulement les machines d’IA collectent de grandes quantités de données pour améliorer continuellement leurs algorithmes de prise de décision, mais les données collectées au moyen de l’IA ou utilisées à des fins d’IA soulèvent également des inquiétudes concernant le consentement éclairé de l’utilisateur et les pratiques en matière de collecte de données. De plus, les entreprises utilisant de grandes quantités de données pour alimenter leurs systèmes d’IA, elles peuvent conserver les données pendant des périodes plus longues que ce qui a été initialement divulgué aux utilisateurs, ainsi qu’utiliser les données à d’autres fins (non divulguées et non consenties). ). Ces pratiques peuvent entraîner des problèmes de confidentialité. La FTC a déjà intenté des actions en justice contre des entreprises pour avoir utilisé leurs systèmes d’IA d’une manière incompatible avec leurs obligations en matière de confidentialité et, dans le cadre de leurs règlements, a exigé des entreprises qu’elles détruisent les algorithmes sous-jacents qu’elles utilisaient pour développer leurs systèmes d’IA.

Le récent avertissement de la FTC concernant les allégations publicitaires liées à l’IA, ainsi que l’augmentation des mesures d’application de la loi concernant l’IA, indiquent que l’agence est sérieuse quant à la réglementation de ce nouveau domaine. Les entreprises opérant dans cet espace doivent être conscientes de la manière dont leurs pratiques peuvent potentiellement conduire à un examen minutieux de la FTC. En particulier, les entreprises qui utilisent cette technologie en relation avec des catégories d’informations sensibles (telles que les données de santé ou la biométrie) doivent être particulièrement prudentes, compte tenu de l’historique récent de l’agence en matière d’application.