Pourquoi devrions-nous écouter les développeurs concernant la réglementation de la confidentialité de l’IA

Jeremy Bradley, COO de Zamas, affirme qu’en tant que gardiens de la vie privée, les développeurs sont les mieux placés pour donner des conseils en matière de cybersécurité dans un contexte d’essor de l’IA, même si tout le monde, des PDG aux utilisateurs finaux, a un rôle à jouer.

À une époque où les progrès technologiques s’accélèrent de façon exponentielle, les voix de ceux qui sont à l’avant-garde de la création de ces technologies sont cruciales.

Les résultats récents d’une étude commandée par Zama, une société de cryptographie basée à Paris et spécialisée dans le cryptage entièrement homomorphique (FHE), ont mis en lumière une préoccupation croissante parmi les développeurs : la menace croissante de l’IA et de l’apprentissage automatique sur la vie privée.

Notre étude, qui a interrogé plus d’un millier de développeurs au Royaume-Uni et aux États-Unis, révèle un aperçu frappant : 53 % des développeurs considèrent l’IA comme une menace importante pour la vie privée, presque à égalité avec la cybercriminalité, qui s’élève à 55 %. Ce sentiment souligne un changement crucial dans le paysage des menaces, où l’IA, malgré son stade naissant, apparaît rapidement comme un défi formidable, talonnant de près la menace éternelle de la cybercriminalité.

Les implications financières de la cybercriminalité sont stupéfiantes et devraient atteindre 13 820 milliards de dollars d’ici 2028. Cependant, avec la sophistication croissante de l’IA, le risque d’utilisation abusive par les cybercriminels pourrait faire augmenter ces coûts encore plus. Il ne s’agit pas seulement de pertes financières ; il s’agit de l’érosion de la vie privée qui pourrait en résulter.

La valeur des avis des experts

Le point de vue des développeurs est particulièrement éclairant. Chargés d’intégrer les mesures de protection de la vie privée dans les applications quotidiennes, ces professionnels sont particulièrement bien placés pour juger de l’efficacité des cadres réglementaires et de confidentialité actuels. Il est alarmant de constater que 98 % des personnes interrogées pensent qu’une action immédiate est nécessaire pour répondre aux futurs problèmes de confidentialité dans le cadre de ces cadres. Un nombre significatif de 72 % estiment que les réglementations existantes ne sont pas adaptées à l’avenir, et 56 % expriment leur inquiétude quant au fait que même des structures réglementaires dynamiques destinées à s’adapter aux progrès technologiques pourraient constituer des menaces qui leur sont propres.

Les résultats de cette enquête soulignent l’importance d’écouter les idées des développeurs, soulignant leur rôle essentiel dans la protection de la confidentialité au sein des organisations dans le contexte de l’adoption de l’IA. Cela souligne la nécessité de réglementations à venir pour faire face aux risques croissants pour la vie privée des utilisateurs identifiés par les développeurs.

En outre, l’enquête révèle une lacune inquiétante : près d’un tiers des développeurs estiment que les régulateurs n’ont pas une compréhension globale des technologies impliquées, ce qui pourrait entraver l’efficacité des futures réglementations. Cependant, les développeurs interrogés ont également déclaré qu’ils accordaient la priorité à la confidentialité dans l’innovation. Cela implique de tirer parti des technologies améliorant la confidentialité (PET) pour traiter les données en toute sécurité sans compromettre la fonctionnalité.

Alors que nous entrons dans une ère dominée par les avancées basées sur l’IA, les développeurs plaident en faveur d’approches réglementaires bien informées, proactives et adaptables. Il est crucial de maintenir la confidentialité comme principe fondamental pour préserver l’intégrité de l’innovation basée sur les données, même dans un contexte de progrès technologique rapide. En intégrant des technologies de cryptage avancées et en améliorant la compréhension des régulateurs des outils de confidentialité, nous pouvons respecter les valeurs de confidentialité et de sécurité dans le domaine numérique.

Tout le monde a un rôle à jouer

Même si nous constatons déjà des efforts croissants de la part des régulateurs à mesure que les premières politiques et projets de loi adaptés à l’IA ont été lancés, il est important de se rappeler que la responsabilité de protéger la vie privée en matière d’IA doit être partagée et généralisée. Les régulateurs établissent les règles et les intègrent aux politiques et aspects existants de la société. En tant que « gardiens de la vie privée », les développeurs disposent de l’expertise et des outils nécessaires pour garantir que la technologie est à la hauteur. Enfin, les utilisateurs peuvent eux aussi jouer un rôle actif dans la protection de leurs propres informations.

Décideurs politiques et gouvernements

La clé pour ceux qui sont chargés de créer des réglementations capables de suivre le rythme de l’IA et des technologies associées est d’apprécier l’importance d’être bien informé. Une éducation et un apprentissage constants sont cruciaux, par le biais des canaux traditionnels ou par le biais de partenariats L&D avec les mêmes entreprises technologiques qui font progresser le domaine. Accueillir régulièrement des experts externes pour des sessions de formation, encourager la participation à des conférences techniques et des sommets, ainsi qu’organiser des séances d’information technologiques aideront les régulateurs à se doter des connaissances nécessaires pour élaborer des politiques véritablement compétentes.

Les collaborations entre les secteurs public et privé peuvent servir les intérêts des deux parties, avec l’avantage supplémentaire de créer quelque chose dont le public peut également bénéficier. La combinaison de la compréhension des régulateurs des politiques et des cadres avec le savoir-faire technique des entreprises privées peut, d’une part, favoriser la création de réglementations bien adaptées intégrant la technologie tout en garantissant, d’autre part, que ces nouvelles les technologies développées et lancées sur le marché seront déjà conformes et conformes au code.

Développeurs

Comme il ressort de leurs réponses à l’enquête, 79 % des développeurs déclarent que la confidentialité des clients est importante pour eux. Les développeurs savent qu’ils occupent une position unique dans la lutte pour la protection de la vie privée : ils possèdent les compétences et les connaissances nécessaires pour y parvenir, ils comprennent ce que veulent les utilisateurs et ils sont conscients des défis liés à la prestation de services tout en travaillant pour des organisations qui doivent fonctionner dans le respect de règles et de règles. limites.

Leur rôle est de défendre la valeur de la confidentialité dans l’organisation pour laquelle ils travaillent et de fournir des outils de travail, en recherchant des technologies et des solutions open source.

Ils sont appelés à être proactifs et créatifs, en rejoignant une communauté plus large pour partager des idées et des avancées et explorer la portée des technologies disponibles, des mesures de sécurité plus traditionnelles aux dernières solutions basées sur le cryptage telles que FHE. Ils devraient créer des outils faciles à utiliser pouvant être appliqués à la gamme croissante de technologies et de fonctions basées sur l’IA.

Organisations et utilisateurs privés

Les entreprises et organisations privées sont bien placées pour prendre dès le départ les mesures nécessaires en matière de préservation de la vie privée, car elles disposent des moyens et de la main-d’œuvre nécessaires pour intégrer la confidentialité des données dès les premières étapes du développement de leurs outils technologiques. Qu’il s’agisse d’une base de données clients, d’informations financières ou de dossiers de recherche, les organisations peuvent mettre la confidentialité au premier plan grâce à des solutions dédiées.

Les organisations peuvent facilement rechercher et sélectionner les meilleures technologies axées sur la confidentialité qui répondent à leurs besoins, embaucher les meilleurs talents et véritablement protéger la vie privée des clients et des utilisateurs au lieu de considérer cela comme une réflexion après coup et d’investir dans des techniques de cryptage et d’anonymisation.

Et même si les utilisateurs privés n’ont peut-être pas les moyens d’accéder à la même gamme d’outils, ils peuvent facilement suivre quelques mesures de protection simples pour se protéger lorsqu’ils ne dépendent pas d’organisations externes pour le faire : vérifier périodiquement les autorisations des applications, changer fréquemment les mots de passe et utiliser les plus solides et permettre l’authentification multifacteur autant que possible sur tous les appareils et plates-formes.

Par Jeremy Bradley

Jeremy Bradley est le directeur des opérations chez Zama. Il est un leader interfonctionnel et hautement tactique qui a travaillé avec de nombreuses organisations pour façonner la stratégie, piloter les communications et les partenariats, et diriger les politiques et les processus.

Découvrez comment les tendances technologiques émergentes se transforment demain avec notre nouveau podcast, Future Human : The Series. Écoutez maintenant sur Spotifysur Pomme ou partout où vous obtenez vos podcasts.