Les promesses et les pièges de l’intelligence artificielle explorés lors de l’événement TEDxMIT

Des scientifiques, des étudiants et des membres de la communauté se sont réunis le mois dernier pour discuter des promesses et des pièges de l’intelligence artificielle au Laboratoire d’informatique et d’intelligence artificielle (CSAIL) du MIT pour le quatrième événement TEDxMIT qui s’est tenu au MIT.

Les participants ont été divertis et mis au défi en explorant les avantages et les inconvénients de l’informatique, a expliqué la directrice de CSAIL, la professeure Daniela Rus, qui a organisé l’événement avec John Werner, membre du MIT et directeur général de Link Ventures ; Lucy Zhao, étudiante en deuxième année au MIT; et l’étudiante diplômée Jessica Karaguesian. Alors que vous écoutez les conférences d’aujourd’hui, Rus a dit au public, réfléchissez à la façon dont notre monde est rendu meilleur par l’IA, ainsi qu’à nos responsabilités intrinsèques pour garantir que la technologie est déployée pour le plus grand bien.

Rus a mentionné de nouvelles fonctionnalités qui pourraient être activées par l’IA : un assistant personnel automatisé qui pourrait surveiller vos phases de sommeil et vous réveiller au moment optimal, ainsi que des capteurs corporels qui surveillent tout, de votre posture à votre système digestif. Une assistance intelligente peut aider à autonomiser et à améliorer nos vies. Mais ces possibilités intrigantes ne devraient être exploitées que si nous pouvons simultanément résoudre les défis que ces technologies apportent, a déclaré Rus.

Le conférencier suivant, le chercheur principal du CSAIL et professeur de génie électrique et d’informatique Manolis Kellis, a commencé par suggérer ce qui semblait être un objectif inaccessible en utilisant l’IA pour mettre fin à l’évolution telle que nous la connaissons. D’un point de vue informatique, dit-il, ce que nous appelons l’évolution est essentiellement une recherche par force brute. Vous ne faites qu’explorer tout l’espace de recherche, créer des milliards de copies de chacun de vos programmes et les laisser se battre les uns contre les autres. C’est juste brutal. Et c’est aussi complètement lent. Il nous a fallu des milliards d’années pour en arriver là. Serait-il possible, a-t-il demandé, d’accélérer l’évolution et de la rendre moins désordonnée ?

La réponse, dit Kellis, est que nous pouvons faire mieux, et que nous faisions déjà mieux : nous ne tuions pas des gens comme Sparte le faisait, jetant les faibles de la montagne. Nous sauvons vraiment la diversité.

De plus, les connaissances sont maintenant largement partagées, transmises horizontalement par le biais de sources d’information accessibles, a-t-il noté, plutôt que verticalement, des parents à la progéniture. Je voudrais soutenir que la compétition dans l’espèce humaine a été remplacée par la collaboration. Malgré un matériel cognitif fixe, nous avons des mises à niveau logicielles qui sont rendues possibles par la culture, par les 20 années que nos enfants passent à l’école pour remplir leur cerveau de tout ce que l’humanité a appris, quelle que soit la famille qui l’a inventé. C’est le secret de notre grande accélération du fait que le progrès humain au cours des derniers siècles a largement dépassé les évolutions au rythme lent.

La prochaine étape, a déclaré Kellis, consiste à exploiter les connaissances sur l’évolution afin de lutter contre la susceptibilité génétique d’un individu à la maladie. Notre approche actuelle est tout simplement insuffisante, a-t-il ajouté. traitaient les manifestations de la maladie, pas les causes de la maladie. Un élément clé de la stratégie ambitieuse de son laboratoire pour transformer la médecine consiste à identifier les voies causales par lesquelles se manifeste la prédisposition génétique. Ce n’est qu’en comprenant ces voies que nous pouvons vraiment manipuler la causalité de la maladie et inverser le circuit de la maladie.

Kellis a été suivi par Aleksander Madry, professeur de génie électrique et d’informatique au MIT et chercheur principal du CSAIL, qui a déclaré à la foule que les progrès de l’IA se produisaient et qu’ils se produisaient rapidement. Les programmes informatiques peuvent régulièrement battre les humains dans des jeux comme les échecs, le poker et le Go. Devrions-nous donc nous inquiéter du fait que l’IA surpasse les humains ?

Madry, pour sa part, n’a pas peur ou du moins pas encore. Et une partie de cette assurance découle de recherches qui l’ont conduit à la conclusion suivante : malgré son succès considérable, l’IA, en particulier sous la forme d’apprentissage automatique, est paresseuse. Pensez à être paresseux comme ce genre d’étudiant intelligent qui ne veut pas vraiment étudier pour un examen. Au lieu de cela, ce qu’il fait, c’est simplement étudier tous les examens des années précédentes et simplement rechercher des modèles. Au lieu d’essayer d’apprendre, il essaie simplement de réussir le test. Et c’est exactement de la même manière que l’IA actuelle est paresseuse.

Un modèle d’apprentissage automatique pourrait reconnaître les moutons qui paissent, par exemple, simplement en sélectionnant des images contenant de l’herbe verte. Si un modèle est formé pour identifier les poissons à partir de photos de pêcheurs affichant fièrement leurs prises, a expliqué Madry, le modèle comprend que s’il y a un humain tenant quelque chose sur l’image, je le classerai simplement comme un poisson. Les conséquences peuvent être plus graves pour un modèle d’IA destiné à repérer les tumeurs malignes. Si le modèle est formé sur des images contenant des règles qui indiquent la taille des tumeurs, le modèle peut finir par sélectionner uniquement les photos qui contiennent des règles.

Cela conduit aux plus grandes préoccupations de Madry concernant l’IA sous sa forme actuelle. L’IA nous bat maintenant, a-t-il noté. Mais la façon dont il le fait [involves] un peu de triche. Il craint que nous n’appliquions l’IA d’une manière où cette inadéquation entre ce que le modèle fait réellement et ce que nous pensons qu’il fait aura des conséquences catastrophiques. Les personnes qui dépendent de l’IA, en particulier dans des situations potentiellement mortelles, doivent être beaucoup plus conscientes de ses limites actuelles, a averti Madry.

Il y avait 10 conférenciers au total, et le dernier à prendre la parole était Marzyeh Ghassemi, professeure agrégée de génie électrique et d’informatique au MIT et chercheuse principale du CSAIL, qui a exposé sa vision de la meilleure façon dont l’IA pourrait contribuer au mieux à la santé et au bien-être en général. Mais pour que cela se produise, ses modèles doivent être formés sur des données médicales précises, diverses et impartiales.

Il est important de se concentrer sur les données, a souligné Ghassemi, car ces modèles apprennent de nous. Étant donné que nos données sont générées par l’homme, un réseau de neurones apprend à pratiquer auprès d’un médecin. Mais les médecins sont humains, et les humains font des erreurs. Et si un humain fait une erreur, et que nous entraînons une IA à partir de cela, l’IA le fera aussi. Déchets à l’intérieur, déchets à l’extérieur. Mais ce n’est pas comme si les ordures étaient réparties équitablement.

Elle a souligné que de nombreux sous-groupes reçoivent de moins bons soins de la part des médecins et que les membres de ces sous-groupes meurent de certaines conditions à des taux disproportionnellement élevés. C’est un domaine, a déclaré Ghassemi, où l’IA peut réellement aider. C’est quelque chose que nous pouvons régler. Son groupe développe des modèles d’apprentissage automatique robustes, privés et équitables. Ce qui les retient, ce ne sont ni les algorithmes ni les GPU. Ses données. Une fois que nous aurons collecté des données fiables auprès de diverses sources, a ajouté Ghassemi, nous pourrions commencer à récolter les avantages que l’IA peut apporter au domaine des soins de santé.

En plus des conférenciers du CSAIL, des membres de l’Institut des données, des systèmes et de la société du MIT ont présenté des exposés ; l’initiative de mobilité du MIT ; le laboratoire multimédia du MIT ; et le laboratoire SENSEableCity.

La procédure s’est conclue sur cette note d’espoir. Rus et Werner ont ensuite remercié tout le monde d’être venu. S’il vous plaît, continuez à réfléchir sur les avantages et les inconvénients de l’informatique, a exhorté Rus. Et nous avons hâte de vous revoir ici en mai pour le prochain événement TEDxMIT.

Le thème exact du rassemblement du printemps 2022 aura quelque chose à voir avec les superpuissances. Mais si les présentations époustouflantes de décembre étaient une indication, l’offre de mai donnera presque certainement matière à réflexion à ses participants. Et peut-être fournir l’inspiration pour une startup ou deux.