L’IA menace les emplois, la cybersécurité, avertissent les experts

Pour tout le battage médiatique l’intelligence artificielle a généré ces derniers mois, elle a également suscité beaucoup de peur, même parmi les plus grands esprits de l’industrie technologique.

Prenez Geoffrey Hinton, par exemple, également connu comme le parrain de l’IA. En mai, l’informaticien de 75 ans a quitté son poste de responsable d’une équipe de recherche chez Google pour consacrer son temps à dénoncer les risques que l’IA fait peser sur la société.

Les préoccupations les plus urgentes des Hintons sont la perte potentielle d’emplois et la prévalence de la désinformation. Il s’inquiète également de ce qui pourrait arriver si les humains, en particulier les soi-disant mauvais acteurs, donnaient trop de contrôle aux robots et autres machines d’IA, que ce soit sur le champ de bataille pendant la guerre ou dans un bureau d’entreprise.

Si vous donnez un objectif à l’un de ces agents superintelligents, il se rendra compte très rapidement qu’un bon sous-objectif pour plus ou moins n’importe quel objectif est d’obtenir plus de puissance, a déclaré Hinton lors d’une interview pour le podcast du New York Times The Daily. Nous aimons avoir le contrôle. Et c’est un objectif très raisonnable à avoir, parce que si vous avez le contrôle, vous pouvez en faire plus. Mais ces (systèmes d’IA) voudront aussi prendre le contrôle, pour la même raison, juste pour en faire plus. Et donc c’est une direction effrayante.

L’intervieweur, Cade Metz, correspondant technologique du New York Times, a cité un scénario possible dans lequel un humain demande à un système d’IA de gagner de l’argent pour lui.

Rappelez-vous, ce sont des machines. Les machines sont des psychopathes. Ils n’ont pas d’émotions. Ils n’ont pas de boussole morale. Ils font ce que vous leur demandez de faire. Faites-nous de l’argent? OK, bien vous faire de l’argent. Peut-être pénétrez-vous dans un système informatique pour voler cet argent, a déclaré Metz. Si vous possédez des contrats à terme sur le pétrole en Afrique centrale, vous fomentez peut-être une révolution pour augmenter le prix de ces contrats à terme pour en tirer de l’argent.

Bien sûr, comme le souligne Cade, un système d’IA comme ChatGPT n’a pas la capacité de conquérir le monde ou de détruire l’humanité, mais la montée et l’utilisation généralisée de grands modèles de langage ont déjà des conséquences réelles qui ne peuvent être ignorées.

Depuis début mai, des milliers de scénaristes hollywoodiens représentés par la Writers Guild of America sont en grève pour des raisons de conditions de travail et de rémunération. Parmi ses différents objectifs, le syndicat veut réglementer l’utilisation de l’intelligence artificielle dans les projets, empêchant ainsi les studios de remplacer les écrivains humains par l’IA. AI ne peut pas écrire ou réécrire de matériel littéraire ; ne peut pas être utilisé comme matériau source ; et le matériel couvert par le MBA ne peut pas être utilisé pour former l’IA, selon la campagne de la WGA.

Une étude réalisée en mars par des chercheurs de la société mère de ChatGPT OpenAI et de l’Université de Pennsylvanie a révélé qu’environ 80 % de la main-d’œuvre américaine pourrait voir au moins 10 % de ses tâches professionnelles affectées par l’introduction de grands modèles linguistiques.

La menace de désinformation générée par l’IA est encore plus urgente.

L’avocat basé à New York, Steven Schwartz, a récemment fait la une des journaux internationaux pour avoir utilisé ChatGPT pour rechercher des affaires juridiques à citer dans un affidavit. Il s’est avéré que les six cas inclus par Schwartz dans le dossier étaient des hallucinations, ou entièrement fabriqués par le chatbot AI. En conséquence, l’avocat risque désormais d’être sanctionné par un juge fédéral, mais affirme qu’il ne savait pas que les affaires étaient fausses et qu’il n’agissait pas de mauvaise foi.

Bien qu’aucun préjudice réel n’ait résulté de l’utilisation par les avocats de la désinformation générée par l’IA, ce n’est pas toujours le cas.

Dans le monde de la cybersécurité, l’IA est de plus en plus utilisée par de mauvais acteurs à des fins néfastes. Souvent sous la forme d’audio, de photos, de vidéos ou d’e-mails manipulés numériquement, également connus sous le nom de deepfakes, la désinformation joue un rôle clé dans les tactiques d’ingénierie sociale conçues pour inciter les cibles à partager des informations personnelles ou à effectuer des tâches telles que l’installation de logiciels malveillants ou le téléchargement. virus.

De nombreux lieux de travail ne connaissent que trop bien les escroqueries par hameçonnage par e-mail, dans lesquelles, par exemple, un employé reçoit ce qui semble être un e-mail légitime de son patron ou du chef de l’entreprise lui demandant de transférer des fonds, d’effectuer un achat ou de mettre à jour les informations de paie.

Il y a maintenant des escroqueries par hameçonnage vocal avec la voix des gens, a déclaré Keegan Bolstad, directeur des ventes de la société informatique gérée basée à Menomonee Falls Ontech Systems Inc. Vous recevez un appel de ce qui ressemble à votre téléphone patron et sa voix patron vous dit d’aller faire quelque chose. C’est très, très difficile pour vous en tant qu’utilisateur d’interpréter cela, et c’est là que l’IA devient extrêmement effrayante.

De plus, l’essor et la disponibilité publique de l’IA générative ont égalisé les règles du jeu parmi les groupes cybercriminels, a déclaré Bolstad. Avec des programmes comme ChatGPT, les cybercriminels potentiels n’ont plus besoin de compétences de haut niveau comme l’écriture de code pour créer des logiciels malveillants ou des rançongiciels.

Mais même si l’IA a accru les cybermenaces pour le monde des affaires, elle a également permis aux entreprises informatiques comme Ontech d’affiner leurs tactiques de défense. Bolstad le compare à un jeu du chat et de la souris.

Nous répondons au mauvais acteur et développons bien des outils, des technologies ou des systèmes qui nient cela, puis ils pivoteront et feront quelque chose de nouveau, a-t-il déclaré. Ils font quelque chose, nous réagissons. Lorsque nous faisons quelque chose, ils réagissent. Et c’est juste un cycle sans fin.