ChatGPT et la nouvelle IA font des ravages sur la cybersécurité de manière passionnante et effrayante

L’intelligence artificielle générative transforme la cybersécurité, aidant à la fois les attaquants et les défenseurs. Les cybercriminels exploitent l’IA pour lancer des attaques sophistiquées et novatrices à grande échelle. Et les défenseurs utilisent la même technologie pour protéger les infrastructures critiques, les organisations gouvernementales et les réseaux d’entreprise, a déclaré Christopher Ahlberg, PDG de la plateforme de renseignement sur les menaces Recorded Future.

Aussi: J’ai demandé à ChatGPT, Bing et Bard ce qui les inquiète. L’IA de Google est devenue Terminator sur moi

L’IA générative a aidé les acteurs malveillants à innover et à développer de nouvelles stratégies d’attaque, leur permettant de garder une longueur d’avance sur les défenses de cybersécurité. L’IA aide les cybercriminels à automatiser les attaques, à analyser les surfaces d’attaque et à générer du contenu qui résonne avec diverses régions géographiques et démographiques, leur permettant de cibler un plus large éventail de victimes potentielles dans différents pays. Les cybercriminels ont adopté la technologie pour créer des e-mails de phishing convaincants. Le texte généré par l’IA aide les attaquants à produire des e-mails et des SMS hautement personnalisés plus susceptibles de tromper les cibles.

« Je pense que vous n’avez pas besoin d’être très créatif pour réaliser que, mec, cela peut réellement aider [cybercriminals] être des auteurs, ce qui est un problème », a déclaré Ahlberg.

Aussi: L’IA pourrait automatiser 25 % de tous les travaux. Voici ceux qui sont les plus (et les moins) à risque

Les défenseurs utilisent l’IA pour repousser les attaques. Les organisations utilisent la technologie pour prévenir les fuites et trouver les vulnérabilités du réseau de manière proactive. Il automatise également de manière dynamique des tâches telles que la configuration d’alertes pour des mots clés spécifiques et la détection d’informations sensibles en ligne. Les chasseurs de menaces utilisent l’IA pour identifier des modèles inhabituels et résumer de grandes quantités de données, reliant les points entre plusieurs sources d’informations et modèles cachés.

Le travail nécessite toujours des experts humains, mais Ahlberg dit que la technologie d’IA générative que nous voyons dans des projets comme ChatGPT peut aider.

« Nous voulons accélérer le cycle d’analyse [to] aidez-nous à analyser à la vitesse de la pensée », a-t-il déclaré. « C’est une chose très difficile à faire et je pense que nous assistons à une percée ici, ce qui est assez excitant. »

Ahlberg a également discuté des menaces potentielles que les machines hautement intelligentes pourraient apporter. Alors que le monde devient de plus en plus numérique et interconnecté, la capacité de modifier la réalité et de façonner les perceptions pourrait être exploitée par des acteurs malveillants. Ces menaces ne se limitent pas aux États-nations, ce qui rend le paysage encore plus complexe et asymétrique.

Aussi: ChatGPT ressemble plus à une « intelligence extraterrestre » qu’à un cerveau humain, selon un futuriste

L’IA a le potentiel d’aider à se protéger contre ces menaces émergentes, mais elle présente également son propre ensemble de risques. Par exemple, des machines dotées de capacités de traitement élevées pourraient pirater des systèmes plus rapidement et plus efficacement que les humains. Pour contrer ces menaces, nous devons nous assurer que l’IA est utilisée de manière défensive et avec une compréhension claire de qui contrôle.

À mesure que l’IA s’intègre de plus en plus dans la société, il est important que les législateurs, les juges et les autres décideurs comprennent la technologie et ses implications. La création d’alliances solides entre les experts techniques et les décideurs politiques sera cruciale pour naviguer dans l’avenir de l’IA dans la chasse aux menaces et au-delà.

Les opportunités, les défis et les considérations éthiques de l’IA en matière de cybersécurité sont complexes et en constante évolution. Garantir des modèles d’IA impartiaux et maintenir l’implication humaine dans la prise de décision aidera à gérer les défis éthiques. La vigilance, la collaboration et une compréhension claire de la technologie seront cruciales pour faire face aux menaces potentielles à long terme des machines hautement intelligentes.

Aussi: Comment fonctionne ChatGPT

Ahlberg a également fait part de ses inquiétudes concernant la Chine, la Russie et les adversaires économiques déployant des machines autonomes. Ces pays ne ralentiront probablement pas le développement de l’IA ni ne partageront des considérations éthiques. Bien que la capacité de « débrancher » de telles machines soit une protection intelligente, il suggère que l’intégration de la technologie dans la société et l’économie mondiale rendra probablement difficile le détachement. Ahlberg insiste sur la nécessité de concevoir des produits et des machines en indiquant clairement qui les contrôle.

« La grande chose qu’Internet a fait dans tout cela, c’est qu’Internet est en quelque sorte devenu le lieu où toutes les informations du monde ont migré », a déclaré Ahlberg. « Ces grands modèles de langage font des choses assez magiques pour accélérer ce cycle de réflexion. »

Il a ajouté : « Au cours des 25 prochaines années, le monde deviendra le reflet d’Internet.