Les modèles génératifs profonds pourraient offrir les développements les plus prometteurs en IA

Cet article a été rédigé par Rick Hao, principal partenaire technologique profond chez pan-European VCSpeedinvest.

Avec un taux de croissance annuel de 44 %, le marché de l’IA et de l’apprentissage automatique suscite l’intérêt des chefs d’entreprise de tous les secteurs. Avec certaines projections estimant que l’IA augmentera le PIB de certaines économies locales de 26 % d’ici 2030, il est facile de voir la justification de l’investissement et du battage médiatique.

Parmi les chercheurs en IA et les scientifiques des données, l’une des principales étapes pour s’assurer que l’IA tient la promesse d’une croissance et d’une productivité accrues consiste à élargir la gamme et les capacités des modèles disponibles pour les organisations. Et en tête de l’ordre du jour, le développement, la formation et le déploiement de modèles génératifs profonds (DGM) que je considère comme l’un des modèles les plus excitants destinés à être utilisés dans l’industrie. Mais pourquoi?

Que sont les DGM ?

Vous avez probablement déjà vu les résultats d’un DGM en action, il s’agit en fait du même type de modèles d’IA qui produisent des deepfakes ou de l’art impressionniste. la confluence de l’apprentissage en profondeur et de la modélisation probabiliste : le paradigme du modèle génératif et les réseaux de neurones.

Un modèle génératif est l’une des deux principales catégories de modèles d’IA et, comme son nom l’indique, il s’agit d’un modèle qui peut prendre un ensemble de données et générer de nouveaux points de données en fonction des entrées qu’il a reçues jusqu’à présent. Cela contraste avec les modèles discriminants plus couramment utilisés et beaucoup plus faciles à développer, qui examinent un point de données dans un ensemble de données, puis l’étiquettent ou le classent.

Le D dans DGM fait référence au fait qu’en plus d’être des modèles génératifs, ils exploitent des réseaux de neurones profonds. Les réseaux de neurones sont des architectures informatiques qui donnent aux programmes la capacité d’apprendre de nouveaux modèles au fil du temps, ce qui rend un réseau de neurones profond est un niveau de complexité accru offert par plusieurs couches cachées d’inférences entre une entrée de modèle et une sortie de modèle. Cette profondeur donne aux réseaux de neurones profonds la capacité de fonctionner avec des ensembles de données extrêmement complexes avec de nombreuses variables en jeu.

Ensemble, cela signifie que les DGM sont des modèles qui peuvent générer de nouveaux points de données basés sur les données qui y sont introduites, et qui peuvent gérer des ensembles de données et des sujets particulièrement complexes.

Les opportunités des DGM

Comme mentionné ci-dessus, les DGM ont déjà des utilisations créatives et imaginatives notables, telles que les deepfakes ou la génération d’art. Cependant, la gamme complète potentielle d’applications commerciales et industrielles pour les DGM est vaste et promet d’améliorer une variété de secteurs.

Par exemple, considérons la question du repliement des protéines. Le repliement des protéines découvrir la structure 3D des protéines nous permet de découvrir quels médicaments et composés interagissent avec différents types de tissus humains, et comment. Ceci est essentiel à la découverte de médicaments et à l’innovation médicale, mais découvrir comment les protéines se replient est très difficile, obligeant les scientifiques à dissoudre et cristalliser les protéines avant de les analyser, ce qui signifie que l’ensemble du processus pour une seule protéine peut durer des semaines ou des mois. Les modèles traditionnels d’apprentissage en profondeur sont également insuffisants pour aider à résoudre le problème de repliement des protéines, car ils se concentrent principalement sur la classification des ensembles de données existants plutôt que sur la capacité de générer leurs propres sorties.

En revanche, l’année dernière, le modèle AlphaFold de l’équipe DeepMind a réussi à anticiper de manière fiable la façon dont les protéines se replieraient en se basant uniquement sur des données concernant leur composition chimique. En étant capable de générer des résultats en quelques heures ou minutes, AlphaFold a le potentiel d’économiser des mois de travail en laboratoire et d’accélérer considérablement la recherche dans à peu près tous les domaines de la biologie.

On voyait aussi émerger des DGM dans d’autres domaines. Le mois dernier, DeepMind a publié AlphaCode, un modèle d’IA générant du code qui a surpassé avec succès le développeur moyen lors des essais. Et l’applicabilité des DGM peut être vue dans des domaines aussi vastes que la physique, la modélisation financière ou la logistique : grâce à la capacité d’apprendre tacitement des modèles subtils et complexes que les humains et d’autres réseaux d’apprentissage en profondeur sont incapables de repérer, les DGM promettent de pouvoir pour générer des résultats surprenants et perspicaces dans presque tous les domaines.

Les défis

Les DGM sont confrontés à des défis techniques notables, tels que la difficulté de les former de manière optimale (en particulier avec des ensembles de données limités) et de s’assurer qu’ils peuvent produire des résultats toujours précis dans des applications réelles. Il s’agit d’un moteur majeur du besoin d’investissements supplémentaires pour garantir que les DGM puissent être largement déployés dans les environnements de production et ainsi tenir leurs promesses économiques et sociales.

Au-delà des obstacles techniques, cependant, un grand défi pour les DGM réside dans l’éthique et la conformité. En raison de leur complexité, le processus décisionnel des DGM est très difficile à comprendre ou à expliquer, en particulier par ceux qui ne comprennent pas leur architecture ou leur fonctionnement. Ce manque d’explicabilité peut créer un risque qu’un modèle d’IA développe des biais injustifiés ou contraires à l’éthique à l’insu de ses opérateurs, générant à leur tour des sorties inexactes ou discriminatoires.

De plus, le fait que les DGM opèrent sur une couche d’une telle complexité signifie qu’il y a un risque qu’il soit difficile de reproduire leurs résultats. Cette difficulté de reproductibilité peut rendre difficile pour les chercheurs, les régulateurs ou le grand public d’avoir confiance dans les résultats fournis par un modèle.

En fin de compte, pour atténuer les risques liés à l’explicabilité et à la reproductibilité, les équipes de développement et les scientifiques des données qui cherchent à tirer parti des DGM doivent s’assurer qu’ils utilisent les meilleures pratiques pour formater leurs modèles et qu’ils utilisent des outils d’explicabilité reconnus dans leurs déploiements.

Alors qu’ils commencent à peine à entrer dans les environnements de production à grande échelle, les DGM représentent certains des développements les plus prometteurs dans le monde de l’IA. En fin de compte, en étant capables d’examiner certains des modèles les plus subtils et les plus fondamentaux de la société et de la nature, ces modèles se révéleront transformateurs dans presque toutes les industries. Et malgré les défis d’assurer la conformité et la transparence, il y a toutes les raisons d’être optimiste et enthousiasmé par la future promesse du DGM pour la technologie, notre économie et la société dans son ensemble.

Rick Hao est le principal partenaire technologique profond chez VCSpeedinvest paneuropéen.