La cybersécurité est désormais un sport d’équipe face à une vague d’attaques génératives basées sur l’IA, affirment les experts en technologie
Lorsque OpenAI a dévoilé son programme ChatGPT en novembre 2022, il a rendu les applications d’IA accessibles à presque tout le monde. Le chatbot a rendu l’IA tangible pour les gens ordinaires, et pas seulement pour les data scientists ou les ingénieurs informaticiens.
Mais tout le monde ne souhaite pas utiliser ces outils à des fins innocentes. Plus tôt cette année, un employé du secteur financier de Hong Kong a transféré plus de 25 millions de dollars à des escrocs en utilisant la technologie deepfake pour se faire passer pour le directeur financier de l’entreprise lors d’un appel vidéo.
Ce sont des choses qui me tiennent éveillée, a déclaré Maria Milosavljevic, responsable de la sécurité informatique du groupe ANZ Banking Group, lors d’une conférence de presse. Fortune Conversation virtuelle mercredi. Malheureusement, l’IA, qui est incroyablement utile et puissante, est à la disposition de nos amis comme de nos ennemis.
L’événement, organisé en partenariat avec Accenture, a exploré l’interaction entre les nouveaux outils d’IA générative et la cybersécurité.
Selon Scott Wilkie, responsable mondial de la sécurité des technologies émergentes chez Accenture, l’ampleur et le volume des attaques s’élargissent de manière générale. Le cabinet de conseil a constaté un doublement des attaques de ransomware et une augmentation de 1 000 % des attaques de phishing au cours des 12 derniers mois.
L’IA générative et les nouveaux modèles de langage à grande échelle permettent des attaques plus sophistiquées et de plus grand volume, a-t-il déclaré.
Calvin Ng, directeur du centre de programme de cybersécurité de l’Agence de cybersécurité de Singapour, a reconnu que la fréquence et la gravité des cyberattaques avaient augmenté. Il a expliqué qu’une évaluation et une gestion adéquates des risques étaient nécessaires.
Vous pouvez facilement créer un e-mail de phishing, vous pouvez facilement automatiser les logiciels malveillants, a expliqué Ng. Vous n’avez pas besoin d’être un professionnel de la cybersécurité ; vous pouvez créer des logiciels malveillants à l’aide de ChatGPT. Les choses sont simplifiées ; faire le mal est simplifié aujourd’hui.
Ng a mis en garde contre le risque d’empoisonnement des données, lorsqu’un adversaire cible l’ensemble d’entraînement derrière un mode d’IA. Les organisations doivent réfléchir aux conséquences du déploiement d’une IA capable de fouiller les informations [from] Ils peuvent accéder à l’information partout et produire librement des informations sans consulter personne, et mettre en place des garde-fous pour empêcher l’empoisonnement des données, a-t-il expliqué.
Mercredi, Microsoft a annoncé avoir découvert un moyen de jailbreaker un modèle d’IA générative, l’amenant à ignorer ses garde-fous et à générer du contenu lié aux explosifs, aux drogues et à la politique.
Les panélistes ont également souligné que l’IA peut aider, et pas seulement entraver, les équipes de cybersécurité.
« Nous recevons plus de 10 milliards d’événements de données chaque jour. Nous ne pouvons pas confier chaque détail à des êtres humains, c’est pourquoi 35 % de notre réponse aux incidents est déjà automatisée grâce à l’apprentissage automatique et à l’IA », a déclaré Milosavljevic.
La cybersécurité, un sport d’équipe
À mesure que les attaques se multiplient, la cybersécurité n’est plus seulement une initiative qui concerne les services informatiques. Mercredi, les intervenants ont souligné que la cybersécurité n’est pas seulement une initiative à l’échelle de l’entreprise, mais un effort qui implique plusieurs parties, y compris les gouvernements nationaux.
« Nous avons toujours eu pour adage que la cybersécurité doit être un sport d’équipe », a déclaré Wilkie. « Au cours des cinq dernières années, je n’ai certainement jamais vu une période où la collaboration a été aussi grande ou mieux intentionnée. »
Par exemple, une quarantaine de pays ont signé un pacte international par lequel ils s’engagent à ne pas céder aux demandes des auteurs d’attaques par rançongiciel. Les membres s’engagent également à collaborer pour entreprendre des projets de recherche visant à renforcer la résilience.
Les gouvernements s’intéressent également à la sécurité nationale et à la géopolitique. Si la technologie peut aider un pays à développer son économie, elle doit le faire dans un environnement équilibré, a déclaré Ng.
Les entreprises, et en particulier celles qui ne font pas partie des secteurs les plus réglementés, doivent absolument adopter une bonne hygiène informatique de base, a déclaré Jennifer Tiang, responsable régionale des pratiques cybernétiques pour l’Asie chez Willis Towers Watson. Elle a fait une comparaison avec la sécurité domestique : disposer des systèmes de caméras les plus sophistiqués ne signifie pas grand-chose si les propriétaires choisissent de ne pas verrouiller leurs portes.
Les risques auxquels ils sont confrontés sont très complexes, a-t-elle déclaré. Ils doivent se concentrer sur les fondamentaux et investir là où l’investissement était peut-être minimal.
Fortune organise pour la première fois Brainstorm AI en Asie, en réunissant des dirigeants, des fondateurs, des investisseurs en capital-risque et des régulateurs du monde entier à Singapour du 30 au 31 juillet. Inscrivez-vous ici !