Un plan étape par étape pour une utilisation sûre des modèles GenAI pour le développement de logiciels – Help Net Security

Si vous êtes une entreprise à grande échelle, le récent boom de l’IA ne vous a pas échappé. Aujourd’hui, l’IA participe à un large éventail de tâches liées au développement et au numérique, de la génération de contenu à l’automatisation et à l’analyse.

Le développement de l’IA est rapide et, comme il s’agit d’un domaine largement inexploré, des préoccupations éthiques, économiques, sociales et juridiques ont fait surface. Au milieu de discussions animées sur la propriété intellectuelle des contenus améliorés par l’IA et sur la question de savoir si l’IA sera capable de remplacer entièrement le travail humain (et de provoquer des licenciements massifs) dans un avenir proche, les entreprises veulent capitaliser sur les avantages qu’offre l’utilisation de l’IA générative (GenAI), mais en toute sécurité.

Dans cet article, nous abordons le sujet de la création d’un environnement pour l’utilisation de ChatGPT et de GenAI similaires dans le développement de logiciels qui soit à la fois sûr et bénéfique pour toutes les personnes impliquées.

Aborder les risques et briser les mythes

La relative nouveauté et la prolifération explosive de l’IA ont créé un grand nombre d’idées fausses et un chaos informationnel. Examinons certains risques courants et mythes en circulation associés à ChatGPT et voyons comment ils peuvent être contrés ou atténués.

1. L’IA se développe plus rapidement que les réglementations gouvernementales en la matière

Nous l’avons déjà vu avec la blockchain et la crypto-monnaie. Les processus de développement de l’IA sont rapides, tandis que les procédures juridiques et réglementaires sont à la traîne. Cela crée une vaste zone grise dans laquelle il est difficile de s’orienter : de nombreux espaces vides, peu de précédents. Cela peut potentiellement conduire les entreprises à recourir à des méthodes de travail dangereuses ou contraires à l’éthique avec ChatGPT, voire à quelque chose qui pourrait être considéré comme illégal à l’avenir.

Pour contrer ce problème, vous pouvez créer un code de conduite clair relatif à l’utilisation de ChatGPT dans votre organisation et obliger les employés à s’y familiariser.

Ce code doit couvrir autant d’aspects que possible du travail avec GenAI. Par exemple, il doit inclure les types de tâches pour lesquelles l’utilisation de ChatGPT est autorisée dans votre organisation et les types d’accès requis. Étant donné que ce domaine comporte de nombreuses lacunes, il est préférable de travailler avec des experts de confiance ou de sous-traiter la création et la mise en œuvre des pratiques GenAI à une personne ayant une expertise dans le domaine.

2. Débats sur la propriété intellectuelle, le partage excessif et les risques liés à la vie privée

Il existe de nombreux cas connus où des personnes ont tenté de former l’IA avec des données sensibles ou privées ou les ont utilisées comme entrée pour l’analyse. Il y a encore beaucoup de débats quant à savoir si ces données seront accessibles à une personne extérieure à votre organisation. Un autre débat houleux concerne la manière d’attribuer les droits de propriété intellectuelle à tout produit pour lequel ChatGPT a été utilisé. Gardez à l’esprit que si un employé utilise son compte personnel pour travailler avec ChatGPT, le résultat relève de sa propriété intellectuelle, et non de celle de votre entreprise.

C’est pourquoi il est important d’introduire et de respecter dans votre politique relative à l’IA des règles relatives au travail avec des informations sensibles, privées ou protégées par le droit d’auteur.

3. Imprévisibilité du développement de l’IA

C’est un autre facteur de risque et de nombreuses spéculations. L’IA est encore en grande partie une table rase, et même s’il est peu probable que la singularité technologique devienne une réalité de si tôt, il est important de garder à l’esprit que l’avenir de l’IA est très imprévisible. Pour cette raison, il est difficile de savoir si nous serons capables d’exercer autant de contrôle sur l’IA et son développement à l’avenir. Il est également difficile de prédire à quel point notre travail peut devenir dépendant de l’IA, ce qui constitue également un facteur de risque important.

Nous pouvons atténuer ce risque en créant et en mettant en œuvre des flux de travail flexibles et agiles pour travailler avec ChatGPT. De tels flux de travail doivent évoluer facilement et avoir une grande capacité d’adaptation aux changements, tant en matière de développement que de réglementation.

4. L’IA finira par remplacer le travail humain

Il s’agit encore en grande partie d’un domaine de théorie du complot, mais nous voyons déjà aujourd’hui combien de travail peut être automatisé avec l’aide de l’IA. Ce mythe est facilement brisé par quiconque tente d’utiliser l’IA pour des tâches plus complexes. Aujourd’hui, la qualité des résultats de l’IA dépend fortement de la qualité et de la précision des entrées, mais pour rédiger des invites cohérentes et utiles qui génèrent des résultats précis et utilisables, un opérateur doit généralement avoir au moins une formation de base pour travailler avec l’IA, et une connaissance du domaine est toujours requise.

La corrélation entre l’expérience en ingénierie rapide et la connaissance du domaine, d’une part, et la qualité des résultats de l’IA, d’autre part, est directe. Cela signifie que pour utiliser efficacement l’IA, il faut un personnel efficace et qualifié.

Une façon de contourner ce sujet éthiquement sensible est d’orienter davantage le travail lié à ChatGPT vers l’automatisation et d’améliorer le travail effectué par l’homme en ajoutant de la précision, de la couverture, en prenant en charge des tâches banales et répétitives et en éliminant les erreurs dues au facteur humain.

5. Complexité des processus et de la documentation liés à l’IA

L’IA étant encore un territoire inexploré, la plupart des entreprises doivent encore faire des essais et des erreurs avant de parvenir à établir des flux de travail d’IA clairs et fonctionnels et à documenter des protocoles pour les tâches orientées ChatGPT. Le manque de connaissances accumulées oblige les entreprises à naviguer à l’aveuglette. Cela peut entraîner des erreurs coûteuses, une perte d’efficacité et une perte de temps et de ressources.

La meilleure solution à ce problème est de déléguer la mise en œuvre des processus d’IA et de la documentation à des experts, en embauchant du personnel interne fiable ou en externalisant ces tâches à des professionnels.

Meilleures pratiques et étapes pour créer un environnement sûr pour l’utilisation de GenAI dans le développement de logiciels

La mise en œuvre des processus permettant de travailler avec l’IA doit être effectuée avec soin et en gardant à l’esprit que ces solutions doivent être adaptées et prendre en compte de nombreuses spécificités et contextes liés à l’entreprise et au domaine. Voici quelques bonnes pratiques qui vous aideront à naviguer dans ces eaux troubles.

1. Concentrez-vous sur le consentement des utilisateurs, la confidentialité des données, la sécurité et la conformité

Découvrez quelles réglementations sont déjà en place pour l’IA dans votre région et surveillez de près les processus gouvernementaux pour être prêt pour les prochains actes législatifs. Si votre produit propose des services basés sur l’IA, assurez-vous que les utilisateurs en sont pleinement conscients, savent quelles données sont collectées et donnent leur consentement avant de travailler avec votre produit. Pour les processus de développement, évitez d’utiliser des données sensibles, privées ou protégées par des droits d’auteur pour entraîner l’IA ou générer des résultats.

2. Pratiques humaines

L’humain dans la boucle est un ensemble de pratiques de conception et d’exploitation dans lesquelles le jugement humain est intégré dans des systèmes et des processus basés sur l’IA. Cette approche limite l’autonomie potentielle de toute IA et vous donne plus de contrôle et de surveillance, en particulier aux points de décision critiques. Ce concept est essentiel dans les scénarios où les décisions d’IA peuvent avoir des implications éthiques, juridiques ou personnelles exceptionnelles.

3. Divulgation et déploiement responsables

Si vous constatez que votre travail lié à l’IA vous a conduit dans la mauvaise direction, vous devez toujours être prêt à l’abandonner. Les résultats ChatGPT potentiellement dangereux et les modèles d’IA entraînés qui sont déterminés à présenter un risque doivent être rejetés et arrêtés, éventuellement sans avoir causé trop de dégâts dans vos autres processus.

4. Documentation transparente

Des protocoles clairs et transparents de travail avec l’IA, des procédures uniformes, l’absence de toute ambiguïté et des doubles sens dans les termes et les points clés sont essentiels si vous voulez que tous les membres de votre organisation soient sur la même longueur d’onde quant à votre position en matière d’utilisation de l’IA. Cela permet également d’intégrer rapidement les employés et d’introduire des pratiques d’IA à grande échelle.

5. Définir et limiter la portée de l’implication de l’IA

La portée exacte de l’implication de l’IA doit être définie dès le début de votre projet. Cela doit être consigné dans la documentation nécessaire sur l’utilisation de ChatGPT, que vous devez mettre à la disposition de tous les employés. Les tâches pour lesquelles il est permis d’utiliser l’IA doivent être clairement spécifiées, ainsi que les tâches pour lesquelles l’utilisation de l’IA est interdite.

6. S’engager avec la communauté de l’IA, sensibiliser et accroître l’alphabétisation de l’IA

Comme nous l’avons mentionné ci-dessus, le manque de base de connaissances accumulées est l’un des facteurs entravant le travail de développement de logiciels lié à ChatGPT. Contribuer à la communauté IA, échanger des idées, partager des expériences peuvent être profitables à la fois pour votre entreprise et pour la communauté elle-même. Il est également devenu une nécessité de sensibiliser votre personnel aux évolutions de l’IA et de le sensibiliser aux différentes problématiques qui y sont associées.

7. Transparence et responsabilité

Bien qu’il s’agisse d’une bonne pratique plus générique qui profite à tout processus de développement logiciel, elle est particulièrement importante pour les tâches améliorées par l’IA, un domaine qui reste encore une zone grise. Vous devez clairement déterminer qui est responsable de quoi et chaque employé impliqué dans le travail avec ChatGPT doit connaître sa responsabilité personnelle et qui est la personne en charge de diverses tâches ou problèmes spécifiques.

8. Surveillance continue

Comme c’est le cas pour toute sphère en développement rapide, le feedback continu et son cycle d’incorporation, la surveillance des résultats générés par ChatGPT, l’examen des flux de travail, des réglementations et des développements liés à l’IA dans le domaine vous aident à affiner vos processus et à les rendre aussi efficaces que possible. Cela vous aidera également à éviter de nombreux pièges associés à ChatGPT et autres GenAI.

Conclusion

Naviguer dans le paysage complexe et en évolution rapide de l’IA générative présente à la fois des opportunités sans précédent et des défis importants pour toute entreprise numérique.

En répondant aux préoccupations éthiques, juridiques et pratiques associées à ChatGPT et aux technologies similaires, et en mettant en œuvre un cadre de bonnes pratiques au niveau de l’entreprise, les entreprises peuvent exploiter la puissance de GenAI de manière sûre et efficace. Cette approche peut non seulement contribuer à établir un environnement de sécurité, mais également garantir que les innovations basées sur l’IA améliorent plutôt que remplacent l’expertise humaine, conduisant ainsi à des processus de développement de logiciels plus robustes, efficaces et éthiquement responsables.