Les ingénieurs logiciels de Samsung arrêtés pour avoir collé du code propriétaire dans ChatGPT

Plusieurs employés de l’activité de semi-conducteurs basée en Corée de Samsung ont branché des lignes de code confidentiel dans ChatGPT, divulguant efficacement des secrets d’entreprise qui pourraient être inclus dans les futures réponses du chatbot à d’autres personnes dans le monde.

Un employé a copié le code source bogué d’une base de données de semi-conducteurs dans le chatbot et lui a demandé d’identifier un correctif, selon(Ouvre dans une nouvelle fenêtre) pour L’économiste Corée. Un autre employé a fait de même pour un autre équipement, demandant « l’optimisation du code » à ChatGPT. Après qu’un troisième employé ait demandé au modèle d’intelligence artificielle de résumer les notes de réunion, les dirigeants de Samsung sont intervenus. L’entreprise a limité l’invite de chaque employé à ChatGPT à 1 024 octets.

À peine trois semaines plus tôt, Samsung avait levé l’interdiction imposée aux employés d’utiliser ChatGPT en raison de préoccupations concernant ce problème. Après les récents incidents, il envisage de rétablir l’interdiction, ainsi que des mesures disciplinaires pour les employés, L’économiste Corée dit.

Bureaux de Samsung en Corée (Crédit : Samsung)

« Si un accident similaire se produit même après que des mesures de protection des informations d’urgence ont été prises, l’accès à ChatGPT peut être bloqué sur le réseau de l’entreprise », lit-on dans une note interne. « Dès que le contenu est saisi dans ChatGPT, les données sont transmises et stockées à un serveur, ce qui rend impossible pour l’entreprise de le récupérer.

Le guide de l’utilisateur d’OpenAI(Ouvre dans une nouvelle fenêtre) avertit les utilisateurs contre ce comportement : « Nous ne sommes pas en mesure de supprimer des invites spécifiques de votre historique. Veuillez ne pas partager d’informations sensibles dans vos conversations. » Il indique que le système utilise toutes les questions et le texte qui lui sont soumis comme données de formation.

L’utilisation de ChatGPT pour trouver et corriger le code bogué est devenue omniprésente dans l’ingénierie logicielle. Si les utilisateurs posent une question de codage, il tente d’identifier la solution et fournit un extrait de code avec un bouton copier-coller en un clic. Les connaissances en codage du chatbot sont apparemment suffisantes pour qu’il soit embauché chez Google en tant qu’ingénieur débutant.

ChatGPT suggère un correctif de code et fournit un extrait à copier et coller. (Crédit : ChatGPT, Emily Dreibelbis)

Cela peut remplacer le temps (parfois des heures) que les ingénieurs passent à surfer sur des sites comme Stack Overflow, une ressource populaire pour le dépannage. En témoignage des taux d’utilisation élevés de ChatGPT par les ingénieurs logiciels, Stack Overflow a interdit(Ouvre dans une nouvelle fenêtre) Réponses générées par ChatGPT quelques jours seulement après sa publication le 30 novembre 2022 en raison de préoccupations concernant des réponses inexactes qui semblent crédibles.

« Le principal problème est que même si les réponses produites par ChatGPT ont un taux élevé d’erreurs, elles sont généralement ressembler ils pourrait sois bon et les réponses sont très facile à produire », déclare Stack Overflow dans un article mis à jour il y a quatre jours. « Le volume de ces réponses (des milliers)… a effectivement submergé notre infrastructure de conservation de qualité basée sur le bénévolat. »

Samsung envisagerait de créer sa propre IA pour éviter de futurs incidents, bien que les ingénieurs puissent probablement contourner toutes les mesures en utilisant ChatGPT sur des appareils personnels. Microsoft Bing et Google Bard peuvent également détecter des bogues dans les lignes de code, donc interdire ChatGPT n’est pas une solution à l’épreuve des balles.