L’IA générative présente des risques et des avantages en matière de cybersécurité, déclare un dirigeant de Microsoft
Au milieu d’une frénésie de développement de l’IA à l’échelle mondiale, les entreprises technologiques internationales tentent d’accélérer la recherche et le développement tout en s’efforçant de développer leurs propres grands modèles dans ce qui est devenu un domaine hautement compétitif. Mais Bird a averti qu’il est également crucial de réfléchir à la manière de construire avec la technologie de manière responsable et sûre.
Comme toute nouvelle technologie [AI] a certaines limites, a déclaré Bird.
Microsoft vante la demande croissante d’IA d’entreprise à Hong Kong dans un contexte de poussée du cloud
Microsoft vante la demande croissante d’IA d’entreprise à Hong Kong dans un contexte de poussée du cloud
Selon Bird, l’IA peut générer du contenu et du code nuisibles, ce qui pourrait rendre les systèmes plus vulnérables à de nouveaux types d’attaques, telles que les attaques par injection rapide et le jailbreak, qui permettent aux attaquants de contourner les restrictions logicielles.
Bird a cependant noté que l’IA peut être à la fois la cause et la solution pour relever ces nouveaux défis en matière de cybersécurité. Microsoft utilise actuellement l’IA pour aider les analystes en sécurité à évaluer le nombre de signaux de menace lors d’une attaque afin d’aider l’entreprise à réagir plus efficacement, selon Bird.
Nous allons donc voir un nouveau niveau d’attaque et de défense grâce à cette technologie, a-t-elle déclaré.
Un autre défi lié à l’adoption d’outils d’IA générative réside dans la diversité des réglementations selon les secteurs et les pays, a mentionné Mark McDonald, responsable de la science et de l’analyse des données pour la branche de recherche mondiale de HSBC, la plus grande banque commerciale de Hong Kong, dans le même panel.
Nous avons vu plusieurs réglementations se concentrer sur ce domaine, a déclaré MacDonald. Il est devenu très difficile pour les organisations mondiales ayant des activités dans plusieurs régions de se conformer à ces règles disparates, a-t-il ajouté.
La communauté technologique réclame plus de clarté et de cohérence dans la réglementation des nouvelles technologies émergentes. Bird a déclaré que les régulateurs devraient penser à l’ensemble de l’écosystème lors de la formulation de nouvelles réglementations, car l’IA générative peut être appliquée dans de nombreux secteurs, y compris des secteurs hautement réglementés tels que les services financiers et la santé, chacun avec ses propres exigences.
01:58
La Chine nie les accusations de piratage informatique parrainé par les États-Unis, le Royaume-Uni et la Nouvelle-Zélande
La Chine nie les accusations de piratage informatique parrainé par les États-Unis, le Royaume-Uni et la Nouvelle-Zélande
L’un des défis est que les réglementations évoluent rapidement, a déclaré Bird. Ils adoptent tous des approches différentes.
Selon le dirigeant de Microsoft, il est important de former les régulateurs dans des domaines dans lesquels ils n’ont peut-être pas de connaissances directes.
Franchement, beaucoup d’entre eux n’ont tout simplement pas d’expérience avec la technologie ou les pratiques complexes requises pour cela, a-t-elle déclaré. J’ai donc une énorme urgence d’aller éduquer dans cet espace si les gens ne comprennent pas ce qui fonctionne réellement et ce qui ne fonctionne pas.