Les biais de l’intelligence artificielle ont un impact sur le développement de médicaments : AiCure
L’intelligence artificielle et d’autres formes d’analyse de données avancées sont souvent considérées comme totalement impartiales et sans parti pris. Cependant, lorsque les personnes qui mettent en place les processus introduisent par inadvertance des biais, les résultats peuvent être affectés.
Rich Christie, médecin-chef d’AiCure, s’est récemment connecté à Outsourcing-Pharma pour parler des problèmes que les biais de l’IA peuvent entraîner dans les essais et le développement.
OSP : Pourriez-vous s’il vous plaît partager votre point de vue sur les biais autour des données d’essais cliniques ? Plus précisément, comment l’IA et d’autres outils analytiques avancés (largement considérés comme objectifs) peuvent-ils être orientés vers un groupe et/ou contre un autre ?
RC : Des biais peuvent survenir dans l’IA lorsque les données utilisées dans les ensembles de formation initiale ne sont pas complètement représentatives de la diversité présente dans les populations de patients suivantes. Après tout, la force et la généralisation des modèles d’IA reflètent les ensembles de données d’entraînement sous-jacents, c’est pourquoi l’évaluation cohérente de la qualité et de la quantité des ensembles de données est essentielle.
Par exemple, les ensembles de données sur lesquels de nombreux outils de vision par ordinateur se sont entraînés dans le passé manquaient de variabilité et de diversité ainsi qu’un certain nombre de dimensions, généralement parce que beaucoup d’entre eux étaient basés sur des programmeurs informatiques bénévoles, un groupe historiquement limité en diversité. Cela signifie que lorsque des outils visuels sont utilisés avec des patients d’origines diverses, le biais inhérent peut non seulement avoir un impact sur les opérations de recherche, mais il peut également affecter les résultats pour les patients et, en fin de compte, avoir un impact sur la capacité de fournir des données significatives pour étudier l’innocuité et l’efficacité des médicaments.
Les conséquences d’une IA biaisée peuvent varier en fonction de la façon dont l’outil est déployé, que ce soit dans le cadre du développement clinique ou du monde réel. Dans un scénario, un système d’IA visant à identifier les sites d’investigation optimaux pourrait fausser de manière sous-optimale les sites choisis pour participer au recrutement et à la gestion des participants à un essai clinique. Dans un autre scénario, une étude pourrait échouer si un essai utilise une IA insuffisante pour déterminer l’engagement des patients et les taux d’inscription.
Dans un autre exemple, si les technologies de vision par ordinateur dans un essai clinique ne fonctionnent pas de manière uniforme sur des patients avec des tons de peau divers, il pourrait y avoir un biais involontaire dans les résultats de l’étude qui entraîne une perception erronée des avantages pour les patients dans l’ensemble de la population.
En 2022, nous devrons travailler ensemble pour garantir que la technologie utilisée par nos patients et les sociétés pharmaceutiques repose sur les bases dont elle a besoin pour favoriser l’égalité et atteindre son potentiel. En se concentrant sur la diversité des ensembles de données de formation, la généralisation formelle des résultats et la confirmation dans le monde réel, les entreprises du secteur pharmaceutique peuvent développer des algorithmes plus puissants pour optimiser le développement de médicaments et les résultats pour les patients.
OSP : Comment l’IA contribue-t-elle à faire progresser la médecine de précision ?
RC : les analyses prédictives basées sur l’IA peuvent aider à stimuler la médecine de précision de plusieurs manières, notamment en guidant des interventions personnalisées en temps opportun qui aident les patients à suivre leur traitement et en fournissant aux sponsors des informations précieuses sur les comportements des patients et des sites, à la fois pendant les essais et avant même les essais. commencer à stratifier le risque.
Plus nous pouvons saisir directement l’expérience du patient et la nuance du comportement au niveau des participants individuels, mieux nous pourrons faire correspondre une thérapeutique aux besoins spécifiques d’un patient. L’IA continue de jouer un rôle important dans la révélation de ces informations. Plus précisément, les biomarqueurs numériques vidéo et audio peuvent capturer la réponse d’un patient au traitement particulièrement bien en raison de leur cohérence, de leur automatisation et de leur capacité à s’étendre à travers les zones géographiques et les populations de patients.
Des évaluations de la qualité de vie telles que la capacité des patients à boutonner leur chemise ou à signer leur nom peuvent être menées pour vraiment comprendre comment les patients réagissent au traitement et son impact sur leur qualité de vie. Au lieu de s’appuyer uniquement sur des évaluations cliniques en personne ou sur des données autodéclarées par les patients, les biomarqueurs numériques vidéo et audio peuvent mesurer des changements subtils dans le comportement d’un patient qui pourraient autrement passer inaperçus.
De plus, l’IA peut aider à prédire à l’avance la capacité d’un patient à adhérer à des protocoles d’essais en fonction de son comportement antérieur, ce qui peut aider les sites à se concentrer sur les patients qui peuvent avoir du mal à rester sur la bonne voie et à adapter des conseils utiles à leur égard. Les sponsors peuvent également utiliser ces données pour optimiser les pools de patients en comprenant qui peut être le mieux placé pour fournir des données de qualité pour répondre aux questions posées par l’étude.
OSP : Selon vous, quelles pourraient être les plus grandes tendances à surveiller en 2022 ? N’hésitez pas à parler des obstacles potentiels, ainsi que des domaines d’opportunité.
RC : À l’horizon 2022, l’un des domaines qui devrait croître est l’utilisation de plates-formes de données open source pour faire progresser l’IA. Les biomarqueurs numériques vidéo et audio sont une ressource inexploitée pour mesurer avec précision le comportement des patients et améliorer l’objectivité des essais cliniques, mais actuellement, la nature exclusive des algorithmes de biomarqueurs numériques empêche les chercheurs de les exploiter à leur plein potentiel, ce qui entrave leur validation et leur raffinement cliniques.
En tant qu’industrie, nous devons continuer à encourager les plateformes open source afin que la communauté scientifique puisse accéder aux algorithmes, contribuer conjointement à leur avancement et valider davantage les biomarqueurs numériques comme moyen légitime de comprendre la maladie.
Deuxièmement, nous continuerons à voir un regain d’intérêt pour l’atténuation de l’impact des biais sur l’IA dans les soins de santé. Le rôle de l’IA dans les soins de santé ne fait que croître, et les connaissances basées sur l’IA continueront d’affecter chaque élément du développement de médicaments, de la recherche clinique à la commercialisation en passant par les évaluations de la santé de la population.
Avec le rôle accru de l’IA vient la possibilité pour elle de perpétuer des biais invisibles si l’industrie n’est pas proactive dans sa gestion. Si l’IA est impartiale et fiable, elle a le pouvoir d’aider les sponsors à faire face à la variabilité du monde réel, à mieux comprendre le fonctionnement des médicaments et leur impact sur des patients spécifiques, et à relier les résultats cliniques à un environnement de plus en plus diversifié de collecte de données dans le monde réel.
OSP : Qu’est-ce qu’AiCure a prévu pour l’année à venir que vous voudriez peut-être voir en avant-première ?
RC : La plate-forme AiCures AI évolue pour fournir les informations prédictives et impartiales nécessaires pour optimiser le développement de médicaments tout au long du cycle de vie des médicaments. Actuellement, une grande partie des données utilisées pour la prise de décision dans les essais cliniques sont des indicateurs retardés du comportement des participants, et les réponses sont généralement réactives plutôt que proactives, ce qui entraîne un gaspillage de ressources, des délais d’essai plus longs et des soins retardés.
Pour résoudre ce problème, AiCure s’efforce de permettre une collecte de données structurée grâce à une gestion sécurisée et conforme des données PHI uniques afin que les utilisateurs puissent comprendre comment le comportement des patients génère de la valeur et puissent accéder à des informations prédictives pour permettre une intervention lorsque cela est important. La plate-forme AiCure offre un endroit unique pour collecter, agréger, annoter, créer et tester de nouvelles évaluations et algorithmes, offrant aux clients la possibilité de développer des modèles d’IA spécifiques aux symptômes qui permettent une mesure plus précise des signes de maladie grâce à des données audio et vidéo.
.