Ce que l’arrivée des téléphones et des ordinateurs IA signifie pour nos données

Apple, Microsoft et Google annoncent une nouvelle ère de smartphones et d’ordinateurs dotés d’intelligence artificielle. Ces appareils, disent-ils, automatiseront des tâches comme retoucher des photos ou souhaiter un joyeux anniversaire à un ami.

Mais pour que cela fonctionne, ces entreprises ont besoin de quelque chose de votre part : plus de données.

Dans ce nouveau paradigme, votre ordinateur Windows prendra une capture d’écran de tout ce que vous faites toutes les quelques secondes. Un iPhone rassemblera les informations de nombreuses applications que vous utilisez. Et un téléphone Android peut écouter un appel en temps réel pour vous alerter d’une arnaque.

Est-ce une information que vous êtes prêt à partager ?

Ce changement a des implications importantes pour notre vie privée. Pour fournir les nouveaux services sur mesure, les entreprises et leurs appareils ont besoin d’un accès plus persistant et plus intime à nos données qu’auparavant. Dans le passé, la façon dont nous utilisions les applications et récupérions les fichiers et les photos sur les téléphones et les ordinateurs était relativement cloisonnée. Selon les experts en sécurité, l’IA a besoin d’une vue d’ensemble pour relier les points entre ce que nous faisons dans les applications, les sites Web et les communications.

Est-ce que je me sens en sécurité en donnant ces informations à cette entreprise ? Cliff Steinhauer, directeur de la National Cybersecurity Alliance, une organisation à but non lucratif spécialisée dans la cybersécurité, a parlé des stratégies d’IA de l’entreprise.

Tout cela se produit parce que ChatGPT d’OpenAI a bouleversé l’industrie technologique il y a près de deux ans. Apple, Google, Microsoft et d’autres ont depuis revu leurs stratégies de produits, investissant des milliards dans de nouveaux services sous le terme générique d’IA. Ils sont convaincus que ce nouveau type d’interface informatique, qui étudie en permanence ce que vous faites pour offrir de l’aide, deviendra indispensable.

Selon les experts, le plus grand risque potentiel de sécurité lié à ce changement vient d’un changement subtil dans la façon dont fonctionnent nos nouveaux appareils. Comme l’IA peut automatiser des actions complexes comme le nettoyage d’objets indésirables d’une photo, elle nécessite parfois plus de puissance de calcul que ce que nos téléphones peuvent gérer. Cela signifie qu’une plus grande partie de nos données personnelles devra peut-être quitter nos téléphones pour être traitées ailleurs.

Les informations sont transmises vers ce qu’on appelle le cloud, un réseau de serveurs qui traitent les demandes. Une fois que les informations atteignent le cloud, elles peuvent être vues par d’autres personnes, notamment par des employés de l’entreprise, des acteurs malveillants et des agences gouvernementales. Et même si certaines de nos données ont toujours été stockées dans le cloud, nos données les plus personnelles et les plus intimes, qui n’étaient autrefois à nos yeux que des photos, des messages et des e-mails, peuvent désormais être connectées et analysées par une entreprise sur ses serveurs.

Les entreprises technologiques affirment avoir déployé de grands efforts pour sécuriser les données des individus.

Pour l’instant, il est important de comprendre ce qui adviendra de nos informations lorsque nous utiliserons des outils d’IA. J’ai donc obtenu plus d’informations auprès des entreprises sur leurs pratiques en matière de données et j’ai interrogé des experts en sécurité. Je compte attendre de voir si les technologies fonctionnent suffisamment bien avant de décider si cela vaut la peine de partager mes données.

Voici ce qu’il faut savoir.

Renseignements Apple

Apple a récemment annoncé Apple Intelligence, une suite de services d’IA et sa première entrée majeure dans la course à l’IA.

Les nouveaux services d’intelligence artificielle seront intégrés à ses iPhone, iPad et Mac les plus rapides à partir de cet automne. Les utilisateurs pourront l’utiliser pour supprimer automatiquement les objets indésirables des photos, créer des résumés d’articles Web et rédiger des réponses à des SMS et des e-mails. Apple remanie également son assistant vocal, Siri, pour le rendre plus conversationnel et lui donner accès aux données de toutes les applications.

Lors de la conférence d’Apple ce mois-ci, lors de la présentation d’Apple Intelligence, le vice-président senior de l’ingénierie logicielle de l’entreprise, Craig Federighi, a expliqué comment cela pourrait fonctionner : M. Federighi a récupéré un e-mail d’un collègue lui demandant de reporter une réunion, mais il a été censé voir une pièce de théâtre ce soir-là mettant en vedette sa fille. Son téléphone a ensuite affiché son calendrier, un document contenant des détails sur la pièce et une application de cartes pour prédire s’il serait en retard à la pièce s’il acceptait une réunion plus tard.

Apple a déclaré qu’elle s’efforçait de traiter la plupart des données d’IA directement sur ses téléphones et ordinateurs, ce qui empêcherait d’autres personnes, y compris Apple, d’avoir accès à ces informations. Mais pour les tâches qui doivent être transmises aux serveurs, Apple a déclaré qu’elle avait développé des mesures de protection, notamment le brouillage des données par cryptage et leur suppression immédiate.

Apple a également mis en place des mesures pour que ses employés n’aient pas accès aux données, a indiqué l’entreprise. Apple a également déclaré qu’elle autoriserait les chercheurs en sécurité à auditer sa technologie pour s’assurer qu’elle tient ses promesses.

L’engagement d’Apple à purger les données des utilisateurs de ses serveurs la distingue des autres entreprises qui conservent des données. Mais Apple ne sait pas exactement quelles nouvelles requêtes Siri pourraient être envoyées aux serveurs de l’entreprise, a déclaré Matthew Green, chercheur en sécurité et professeur agrégé d’informatique à l’Université Johns Hopkins, qui a été informé par Apple de sa nouvelle technologie. Tout ce qui quitte votre appareil est intrinsèquement moins sécurisé, a-t-il déclaré.

Apple a déclaré que lorsque Apple Intelligence sera lancé, les utilisateurs pourront voir un rapport des demandes quittant l’appareil pour être traitées dans le cloud.

Les ordinateurs portables IA de Microsoft

Microsoft apporte l’IA aux ordinateurs portables à l’ancienne.

La semaine dernière, Microsoft a lancé des ordinateurs Windows baptisés Copilot+ PC, dont le prix de départ est de 1 000 dollars. Ces ordinateurs contiennent un nouveau type de puce et d’autres équipements qui, selon Microsoft, permettront de préserver la confidentialité et la sécurité de vos données. Ces PC peuvent générer des images et réécrire des documents, entre autres nouvelles fonctionnalités basées sur l’IA.

L’entreprise a également présenté Recall, un nouveau système permettant aux utilisateurs de retrouver rapidement les documents et fichiers sur lesquels ils ont travaillé, les e-mails qu’ils ont lus ou les sites Web qu’ils ont consultés. Microsoft compare Recall à une mémoire photographique intégrée à votre PC.

Pour l’utiliser, vous pouvez saisir des phrases simples, telles que Je pense à un appel vidéo que j’ai eu avec Joe récemment alors qu’il tenait une tasse à café I Love New York. L’ordinateur récupérera alors l’enregistrement de l’appel vidéo contenant ces détails.

Pour ce faire, Recall prend des captures d’écran toutes les cinq secondes de ce que l’utilisateur fait sur la machine et compile ces images dans une base de données consultable. Les captures d’écran sont stockées et analysées directement sur le PC, de sorte que les données ne sont pas examinées par Microsoft ni utilisées pour améliorer son IA, a déclaré la société.

Pourtant, les chercheurs en sécurité ont mis en garde contre les risques potentiels, expliquant que les données pourraient facilement exposer tout ce que vous avez tapé ou consulté si elles étaient piratées. En réponse, Microsoft, qui avait prévu de déployer Recall la semaine dernière, a reporté sa sortie sine die.

Les PC sont équipés du nouveau système d’exploitation Windows 11 de Microsoft. Il dispose de plusieurs niveaux de sécurité, a déclaré David Weston, un dirigeant de l’entreprise supervisant la sécurité.

IA de Google

Le mois dernier, Google a également annoncé une suite de services d’IA.

L’une de ses plus grandes révélations a été un nouveau détecteur d’arnaque pour les appels téléphoniques alimenté par l’IA. L’outil écoute les appels téléphoniques en temps réel, et si l’appelant ressemble à un escroc potentiel (par exemple, s’il demande un code PIN bancaire), l’entreprise vous en informe. Google a déclaré que les gens devraient activer le détecteur d’arnaque, qui est entièrement géré par le téléphone. Cela signifie que Google n’écoutera pas les appels.

Google a annoncé une autre fonctionnalité, Ask Photos, qui nécessite l’envoi d’informations aux serveurs de l’entreprise. Les utilisateurs peuvent poser des questions telles que Quand ma fille a-t-elle appris à nager ? pour faire apparaître les premières images de leur enfant nageant.

Google a déclaré que ses employés pourraient, dans de rares cas, consulter les conversations Ask Photos et les données photographiques pour remédier aux abus ou aux préjudices, et que les informations pourraient également être utilisées pour aider à améliorer son application de photos. En d’autres termes, votre question et la photo de votre enfant en train de nager pourraient être utilisées pour aider d’autres parents à trouver des images de leurs enfants en train de nager.

Google a déclaré que son cloud était sécurisé avec des technologies de sécurité telles que le cryptage et des protocoles pour limiter l’accès des employés aux données.

Notre approche en matière de protection de la vie privée s’applique à nos fonctionnalités d’IA, qu’elles soient activées sur l’appareil ou dans le cloud, a déclaré Suzanne Frey, responsable de Google chargée de la confiance et de la confidentialité, dans un communiqué.

Mais M. Green, chercheur en sécurité, a déclaré que l’approche de Google en matière de confidentialité de l’IA semblait relativement opaque.

Je n’aime pas l’idée que mes photos et mes recherches très personnelles soient envoyées dans un nuage qui n’est pas sous mon contrôle, a-t-il déclaré.