Les écoles publiques de New York interdisent l’accès à un outil d’IA qui pourrait aider les élèves à tricher | CNN Affaires

New York
CNN
—

Les écoles publiques de la ville de New York interdiront aux élèves et aux enseignants d’utiliser ChatGPT, un puissant nouvel outil de chatbot d’IA, sur les réseaux et les appareils des districts, a confirmé jeudi un responsable à CNN.

Cette décision intervient alors que l’on craint de plus en plus que l’outil, qui génère des réponses étrangement convaincantes et même des essais en réponse aux invites de l’utilisateur, ne permette aux étudiants de tricher plus facilement sur les devoirs. Certains craignent également que ChatGPT puisse être utilisé pour diffuser des informations inexactes.

En raison de préoccupations concernant les impacts négatifs sur l’apprentissage des élèves et des préoccupations concernant la sécurité et l’exactitude du contenu, l’accès à ChatGPT est limité sur les réseaux et appareils des écoles publiques de New York, a déclaré Jenna Lyle, attachée de presse adjointe pour les écoles publiques de New York. dans un rapport. Bien que l’outil puisse fournir des réponses rapides et faciles aux questions, il ne développe pas les compétences de pensée critique et de résolution de problèmes, qui sont essentielles à la réussite scolaire et tout au long de la vie.

Bien que le chatbot soit restreint en vertu de la nouvelle politique, les écoles publiques de la ville de New York peuvent demander à obtenir un accès spécifique à l’outil à des fins éducatives liées à l’IA et à la technologie.

La publication éducative ChalkBeat a d’abord rapporté la nouvelle.

La ville de New York semble être l’un des premiers grands districts scolaires à sévir contre ChatGPT, à peine un mois après le lancement de l’outil. Le mois dernier, le district scolaire unifié de Los Angeles a décidé de bloquer de manière préventive le site sur tous les réseaux et appareils de son système afin de protéger l’honnêteté académique pendant qu’une évaluation des risques / avantages est effectuée, a déclaré un porte-parole du district à CNN cette semaine.

Bien qu’il existe de véritables inquiétudes quant à la manière dont ChatGPT pourrait être utilisé, on ne sait pas dans quelle mesure il est largement adopté par les étudiants. D’autres quartiers, quant à eux, semblent avancer plus lentement.

Peter Feng, responsable de l’information publique du district scolaire unifié de South San Francisco, a déclaré que le district était conscient du potentiel d’utilisation de ChatGPT par ses élèves, mais qu’il n’avait pas encore institué d’interdiction pure et simple. Pendant ce temps, un porte-parole du district scolaire de Philadelphie a déclaré qu’il n’avait aucune connaissance d’élèves utilisant le ChatGPT et que nous n’avions reçu aucune plainte de la part de directeurs ou d’enseignants.

Dans une déclaration partagée avec CNN après la publication, un porte-parole d’OpenAI, le laboratoire de recherche sur l’intelligence artificielle à l’origine de l’outil, a déclaré qu’il rendait ChatGPT disponible en tant qu’aperçu de la recherche pour apprendre de l’utilisation dans le monde réel. Le porte-parole a qualifié cette étape d’élément essentiel du développement et du déploiement de systèmes d’IA capables et sûrs.

Nous intégrons constamment les commentaires et les leçons apprises, a ajouté le porte-parole.

La société a déclaré qu’elle visait à travailler avec les éducateurs sur les moyens d’aider les enseignants et les élèves à bénéficier de l’intelligence artificielle. Nous ne voulons pas que ChatGPT soit utilisé à des fins trompeuses dans les écoles ou ailleurs, nous développons donc déjà des mesures d’atténuation pour aider quiconque à identifier le texte généré par ce système, a déclaré le porte-parole.

OpenAI a ouvert l’accès à ChatGPT fin novembre. Il est capable de fournir des réponses longues, réfléchies et approfondies aux questions et invites, allant de questions factuelles comme Qui était le président des États-Unis en 1955 à des questions plus ouvertes telles que Quel est le sens de la vie ?

L’outil a stupéfié les utilisateurs, y compris les universitaires et certains dans l’industrie technologique. ChatGPT est un grand modèle de langage formé sur une énorme mine d’informations en ligne pour créer ses réponses. Il provient de la même société derrière DALL-E, qui génère une gamme apparemment illimitée d’images en réponse aux invites des utilisateurs.

ChatGPT est devenu viral quelques jours seulement après son lancement. Le co-fondateur d’Open AI, Sam Altman, un éminent investisseur de la Silicon Valley, a déclaré sur Twitter en début décembre que ChatGPT avait dépassé un million d’utilisateurs.

Mais de nombreux éducateurs craignent que les étudiants utilisent l’outil pour tricher sur les devoirs. Un utilisateur, par exemple, a envoyé à ChatGPT une question d’examen d’anglais AP ; il a répondu par un dissertation de 5 paragraphes à propos de Wuthering Heights. Un autre utilisateur a demandé au bot de discussion d’écrire quatre fois un essai sur la vie de William Shakespeare ; il a reçu un version unique avec la même invite chaque fois.

Darren Hicks, professeur adjoint de philosophie à l’Université Furman, a précédemment déclaré à CNN qu’il serait plus difficile de prouver lorsqu’un étudiant abuse de ChatGPT qu’avec d’autres formes de triche.

Dans les formes plus traditionnelles de plagiat, tricher sur Internet, copier coller des trucs, je peux aller chercher des preuves supplémentaires, des preuves que je peux ensuite apporter à une audience du conseil, a-t-il déclaré. Dans ce cas, il n’y a rien là-bas que je puisse pointer et dire, Voici le matériel qu’ils ont pris.

C’est vraiment une nouvelle forme d’un vieux problème où les étudiants payaient quelqu’un ou demandaient à quelqu’un d’écrire leur article pour eux, par exemple une ferme d’essais ou un ami qui a déjà suivi un cours, a ajouté Hicks. C’est comme ça seulement c’est instantané et gratuit.

Feng, du district scolaire unifié du sud de San Francisco, a déclaré à CNN que certains enseignants ont réagi à la montée en puissance des générateurs de texte IA en utilisant leurs propres outils pour vérifier si le travail soumis par les élèves a été plagié ou généré via l’IA.

Certaines entreprises telles que Turnitin, un outil de détection que des milliers de districts scolaires utilisent pour analyser Internet à la recherche de signes de plagiat, étudient actuellement comment son logiciel pourrait détecter l’utilisation de texte généré par l’IA dans les soumissions d’élèves.

Hicks a déclaré que les enseignants devront repenser les devoirs afin qu’ils ne puissent pas être facilement écrits par l’outil. Le plus gros problème, a ajouté Hicks, sera les administrations qui devront déterminer comment elles vont trancher ce genre de cas.

CNN Abby Phillip a contribué à ce rapport.