L’intelligence artificielle va-t-elle aider ou nuire à la cyberdéfense ?

Il y a quelques mois, j’ai posé la question : les bots et les robots sont-ils la réponse aux pénuries de main-d’œuvre ?

Le blog répertorie de nombreux exemples de percées de robots. En voici quelques autres des derniers mois :

PYMNTS.com: Nombre record de robots vendus pour aider à combler des postes

La pénurie de main-d’œuvre déclenchée par COVID-19 a été une aubaine pour les ventes de robots alors que les entreprises se démènent pour pourvoir des emplois au milieu de la demande croissante des consommateurs pour les biens et services après la pandémie.

Les commandes de robotique de janvier à octobre ont atteint 29 000 unités pour un montant record de 1,48 milliard de dollars contre 1,09 milliard de dollars l’année dernière, dépassant le record de 2017 pour la même période de 1,47 milliard de dollars, a déclaré l’Association for Advancing Automation (A3) dans un communiqué de presse.

Temps des affaires internationales: Des robots occupent des postes vacants dans un contexte de grande démission en cours

Les États-Unis sont aux prises avec une pénurie de main-d’œuvre qui entrave leur reprise économique, mais les entreprises ne restent pas immobiles alors qu’elles s’efforcent de maintenir la production en marche. Au fur et à mesure que le nombre de postes vacants augmente, ils se tournent vers l’automatisation pour prendre le relais.

Les commandes de nouveaux robots ont atteint un niveau record en 2021.

Le gardien: Robots : voler nos emplois ou résoudre les pénuries de main-d’œuvre ?

De la restauration rapide à l’agriculture, le Covid-19 a accéléré l’essor des robots ouvriers. Cela mettra à son tour plus d’emplois en danger et rendra encore plus urgente la nécessité de recadrer la société.

Néanmoins, l’article de Le gardien signale également :

Il ne fait aucun doute que la pandémie et la pénurie de main-d’œuvre associée accélèrent la tendance au déploiement de l’intelligence artificielle, de la robotique et d’autres formes d’automatisation. Au Royaume-Uni, la tendance s’amplifie encore à mesure que l’impact du Brexit sur la main-d’œuvre devient évident. Cependant, la réalité est qu’il est peu probable que la plupart de ces technologies arrivent à temps pour offrir une solution aux défis immédiats auxquels sont confrontés les employeurs.

Au cours d’une décennie ou plus, cependant, l’impact global de l’intelligence artificielle et de la robotique sur le marché du travail sera probablement important et, dans certains domaines spécifiques, les technologies pourraient entraîner des changements spectaculaires au cours des prochaines années. Et de nombreux travailleurs seront bientôt confrontés à la réalité que l’empiètement de la technologie d’automatisation ne se limitera pas aux professions souvent mal rémunérées et moins souhaitables où les pénuries de travailleurs sont actuellement concentrées. En effet, bon nombre des emplois que les employeurs ont du mal à pourvoir peuvent s’avérer très résistants à l’automatisation. Dans le même temps, les postes les mieux rémunérés que les travailleurs souhaitent absolument conserver seront clairement en vue alors que l’IA et la robotique poursuivent leur avancée incessante.

Ce qui nous amène à la question de l’IA. Le nombre d’emplois actuels (et futurs) qui peuvent vraiment être pourvus par des robots dépendra des progrès de l’IA que beaucoup placent sous l’égide de l’automatisation.

Par exemple, un article récent propose 43 emplois qui seront bientôt perdus à cause de l’automatisation : Les travailleurs ont longtemps craint de perdre leur emploi au profit de nouveaux arrivants, mais la menace a changé à l’ère numérique, les technologies automatisées posant une nouvelle forme de concurrence. Avec 2,3 millions déjà présents dans la main-d’œuvre mondiale, les robots devraient désormais supplanter 20 millions d’emplois manufacturiers d’ici 2030, dont 1,5 million aux États-Unis. Le choc d’une pandémie devrait accélérer ce changement, alors que les industries se tournent vers la technologie pour atténuer les pertes financières. Les emplois qui suivent sont sur le point de devenir de plus en plus automatisés, y compris les postes de préposé aux commandes dans votre McDonald’s local.

Plus récemment, VentureBeat a écrit que Security AI est la prochaine grande chose.

Ce paysage de menaces hostiles a conduit des organisations telles que Microsoft à utiliser l’IA dans le cadre de leur stratégie de cybersécurité interne et externe. Nous voyions cette augmentation incroyable du volume d’attaques, des ransomwares opérés par l’homme à tous les types d’attaques zero-day, a déclaré Ann Johnson, vice-présidente de la sécurité, de la conformité et de l’identité chez Microsoft.

L’une des utilisations les plus médiatisées de l’IA cette année s’est produite aux Jeux Olympiques de Tokyo, lorsque Darktrace AI a identifié un périphérique Internet des objets (IoT) Raspberry Pi malveillant qu’un intrus avait planté dans le bureau d’un organisme sportif national directement impliqué aux Jeux Olympiques. La solution a détecté le port de l’appareil analysant les appareils à proximité, bloqué les connexions et fourni aux analystes humains des informations sur l’activité d’analyse afin qu’ils puissent enquêter plus avant.

Darktrace a pu identifier qu’il y avait quelque chose de nouveau dans l’environnement qui affichait un comportement intéressant, a déclaré Mike Beck, responsable mondial de la sécurité des informations de Darktrace. Beck a noté qu’il y avait un changement distinct de comportement en termes de profils de communication qui existent à l’intérieur de cet environnement.

LE CTÉ OBSCUR DE L’IA

En mai, j’ai écrit cet article en demandant : L’IA est-elle partout devrait-on être excité ou concerné ?

J’ai couvert de nombreux exemples d’IA bons, mauvais et laids dans ce blog, et j’ai également présenté en avant-première une conférence de Bruce Schneier qu’il a donnée à la conférence RSA 2021. Schneier pense que, dans un premier temps, l’analyse de l’IA favorisera les pirates. Lorsque les IA seront capables de découvrir des vulnérabilités dans le code informatique, ce sera une aubaine pour les pirates du monde entier, a-t-il déclaré.

Voici la présentation complète de Schneier :

Poursuivant sur ce thème, Magazine Fortune écrit que les experts en cybersécurité mettent en garde contre les inconvénients des IA dans la lutte contre les menaces :

La grande partie du problème, selon les deux experts, est que les attaquants utilisent l’IA et l’automatisation à une échelle moins complexe mais toujours très efficace qui leur permet d’exploiter les failles des systèmes de sécurité.

« Les méchants écrasent beaucoup d’entre nous en termes d’automatisation », a-t-il déclaré. «Ils s’améliorent beaucoup, beaucoup mieux dans l’utilisation des systèmes intelligents et de l’IA pour effectuer des reconnaissances, ce qui leur permet de cibler très efficacement. Ils utilisent généralement l’IA pour décomposer les logiciels afin de déterminer où les vulnérabilités existent de manière extraordinairement efficace.

Lorsqu’on lui a demandé de donner des conseils à la fin de l’événement, Roese a proposé une idée simple : ne considérez pas l’IA dans le contexte de la sécurité comme une fonctionnalité supplémentaire. Vous devez le traiter comme un composant essentiel de la sécurité, tout comme les processus métier ou les applications. Ne le compartimentez pas en une équipe de spécialistes qui, isolément, s’occupe de l’IA. Développez et investissez dans les capacités de l’ensemble de l’organisation, car c’est un outil, et si vous ne l’utilisez pas partout, vous laissez fondamentalement quelque chose sur la table.

Le Council on Foreign Relations a récemment écrit sur la génération de code d’IA et la cybersécurité, déclarant que l’IA révolutionnera la façon dont nous écrivons des programmes informatiques. Le gouvernement américain et les industries doivent investir dans l’IA en tant qu’outil de cybersécurité.

J’aime aussi cet article de Lisa OReilly décrivant comment l’avenir de la sécurité des navigateurs réside dans l’IA et l’apprentissage automatique :

Les logiciels devenant de plus en plus sécurisés et aptes à se défendre contre les logiciels malveillants, l’environnement des cyberattaques s’est déplacé vers le phishing. Mais contrairement au passé, où ces attaques étaient principalement axées sur les e-mails, les pirates se concentrent désormais sur plusieurs canaux tels que les appareils mobiles, les applications et les pages Web. Le phishing étant un problème humain qui exploite les émotions et traite de la psychologie de la peur et de l’incertitude, les méthodes informatiques conventionnelles ne suffisent pas à s’en défendre. L’un des plus gros problèmes ? Le navigateur.

DERNIÈRES PENSÉES

En revenant sans cesse sur ce sujet des robots, de l’IA, des emplois, de l’avenir et de la cybersécurité, je me demande quelles solutions actuelles deviendront des problèmes. Que créons-nous maintenant que nous regretterons plus tard ? C’est un sujet très difficile à maîtriser, et je pense que nous devons continuer à réexaminer.

Le Pew Research Center a écrit cet article détaillé plus tôt cette année qui décrit leurs inquiétudes en matière d’IA :

Un grand nombre de personnes interrogées ont fait valoir que la concurrence géopolitique et économique sont les principaux moteurs des développeurs d’IA, tandis que les préoccupations morales passent au second plan. Une partie de ces experts ont déclaré que les créateurs d’outils d’IA travaillent dans des groupes qui sont peu ou pas incités à concevoir des systèmes qui répondent aux préoccupations éthiques.

« Certains répondants ont noté que, même si des exigences éthiques réalisables pouvaient être établies, elles ne pourraient pas être appliquées ou régies car la plupart des conceptions d’IA sont exclusives, cachées et complexes. Comment les « résultats » nocifs de l’IA peuvent-ils être diagnostiqués et traités si la base des décisions de l’IA ne peut pas être discerné ? Certains de ces experts notent également que les systèmes d’IA et les bases de données existants sont souvent utilisés pour créer de nouvelles applications d’IA. Cela signifie que les biais et les aspects éthiquement troublants des systèmes actuels sont intégrés dans les nouveaux systèmes. Ils disent que le diagnostic et le dénouement de la problèmes préexistants peuvent être difficiles, voire impossibles à résoudre.

Qu’est-ce que tu penses? Qu’est-ce qui vous passionne le plus dans l’IA ? Qu’est-ce qui vous inquiète le plus à propos de l’IA ?

J’ai récemment lancé une discussion sur LinkedIn sur ce sujet et j’espère que vous y participerez.