Une IA largement disponible pourrait avoir des conséquences mortelles
Les chercheurs ont averti que si l’IA devient de plus en plus puissante et de plus en plus accessible à tous, il n’y a presque aucune réglementation ou surveillance pour cette technologie et seulement une connaissance limitée parmi les chercheurs, comme lui, de ses utilisations malveillantes potentielles.
Il est particulièrement délicat d’identifier les équipements/matériels/connaissances à double usage dans les sciences de la vie, et des décennies ont été passées à essayer de développer des cadres pour le faire. Il y a très peu de pays qui ont des réglementations statutaires spécifiques à ce sujet, explique Filippa Lentzos, maître de conférences en sciences et sécurité internationale au Kings College de Londres et co-auteur de l’article. Il y a eu des discussions sur la double utilisation dans le domaine de l’IA au sens large, mais l’accent a été mis sur d’autres préoccupations sociales et éthiques, comme la vie privée. Et il y a eu très peu de discussions sur le double usage, et encore moins dans le sous-domaine de la découverte de médicaments IA, dit-elle.
Bien qu’une quantité importante de travail et d’expertise ait été consacrée au développement de MegaSyn, des centaines d’entreprises à travers le monde utilisent déjà l’IA pour la découverte de médicaments, selon Ekins, et la plupart des outils nécessaires pour répéter son expérience VX sont accessibles au public.
Pendant que nous faisions cela, nous avons réalisé que n’importe qui avec un ordinateur et la connaissance limitée de pouvoir trouver les ensembles de données et trouver ces types de logiciels qui sont tous accessibles au public et simplement les assembler peut le faire, dit Ekins. Comment suivre potentiellement des milliers de personnes, peut-être des millions, qui pourraient faire cela et avoir accès aux informations, aux algorithmes et aussi au savoir-faire ?
Depuis mars, le journal a amassé plus de 100 000 vues. Certains scientifiques ont critiqué Ekins et les auteurs pour avoir franchi une ligne éthique grise dans la réalisation de leur expérience VX. C’est vraiment une mauvaise façon d’utiliser la technologie, et ce n’était pas agréable de le faire, a reconnu Ekins. J’ai fait des cauchemars après.
D’autres chercheurs et bioéthiciens ont applaudi les chercheurs pour avoir fourni une démonstration concrète et de preuve de concept de la façon dont l’IA peut être utilisée à mauvais escient.
J’étais assez alarmé à la première lecture de cet article, mais pas surpris non plus. Nous savons que les technologies d’IA deviennent de plus en plus puissantes, et le fait qu’elles puissent être utilisées de cette manière ne semble pas surprenant, déclare Bridget Williams, médecin en santé publique et associée postdoctorale au Center for Population-Level Bioethics de l’Université Rutgers.
Je me suis d’abord demandé si c’était une erreur de publier cet article, car cela pourrait conduire des personnes mal intentionnées à utiliser ce type d’informations de manière malveillante. Mais l’avantage d’avoir un article comme celui-ci est qu’il pourrait inciter davantage de scientifiques, et plus largement la communauté de la recherche, y compris les bailleurs de fonds, les revues et les serveurs de préimpression, à réfléchir à la manière dont leur travail peut être utilisé à mauvais escient et à prendre des mesures pour s’en prémunir, comme l’ont fait les auteurs de cet article, dit-elle.
En mars, le Bureau américain de la politique scientifique et technologique (OSTP) a convoqué Ekins et ses collègues à la Maison Blanche pour une réunion. La première chose que les représentants de l’OSTP ont demandé était si Ekins avait partagé l’une des molécules mortelles que MegaSyn avait générées avec qui que ce soit, selon Ekins. (L’OSTP n’a pas répondu aux demandes répétées d’interview.) La deuxième question des représentants de l’OSTP était de savoir s’ils pouvaient avoir le dossier avec toutes les molécules. Ekins dit qu’il les a refusés. Quelqu’un d’autre pourrait aller le faire de toute façon. Il n’y a certainement aucun contrôle. Il n’y a aucun contrôle. Je veux dire, c’est juste pour nous, n’est-ce pas ? il dit. Il y a juste une forte dépendance à notre moralité et à notre éthique.