« Ma fille est partie » : une mère dit que ChatGPT a laissé tomber sa famille et le blâme
<
div id= » »>
Avertissement : cet article contient du contenu suicidaire. La réflexion est conseillée. Si vous ou quelqu’un que vous connaissez éprouvez des difficultés, de l’aide est disponible. Au Canada, appelez ou envoyez un SMS au 988 pour obtenir la ligne de vie pour la prévention du suicide. En cas d’urgence, veuillez appeler le 911 pour une assistance immédiate.
Une mère canadienne a poursuivi jeudi OpenAI et son PDG Sam Altman devant un tribunal américain, alléguant que le chatbot de l’entreprise avait aidé sa fille à se suicider en fournissant des réponses qui, selon elle, confirmaient ses pensées négatives plutôt que de l’amener à l’aider.
Kristie Carrier, une mère du Nouveau-Brunswick qui a une fille de 24 ans, Alice, et qui vit à Montréal, a déclaré qu’elle s’exprimait dans l’espoir d’imposer une réponse à ce qu’elle appelle une « mêlée générale » pour l’intelligence artificielle.
« Ma fille est partie à cause de quelque chose qui n’était pas sûr et qui n’allait pas », a déclaré Carrier jeudi à Global News. « Rien ne retient ces entreprises ni ne les oblige à rendre des comptes. Elles continueront. »
<div class="c-ad c-ad--bigbox l-article__ad"> <p>L'histoire continue sous l'annonce
</div> Dans un procès intenté devant le tribunal de l'État de San Francisco, Carrier affirme que dans les semaines précédant sa mort en juillet dernier, Alice s'était confiée à ChatGPT, l'utilisant comme caisse de résonance et soutien émotionnel pendant une période difficile de sa relation.</p><div class="l-article__part" data-shortcode="caption">
<figcaption class="c-figure__caption c-caption">
<span class="c-caption__desc">
Alice a déménagé à Montréal après avoir obtenu son diplôme d'un programme de programmation en ligne et mobile au Nouveau-Brunswick. </span>
<cite class="c-caption__cite">
Avec l'aimable autorisation de Kristie Carrier </cite>
</figcaption>
</div>
Après son suicide, les autorités ont donné à Carrier le téléphone de sa fille, où ils ont trouvé les dernières conversations et discussions d’Alice. « Il parlait à ChatGPT comme à un ami. Parfois, il se sentait comme une aide, donnant des conseils sur les relations et ce qu’il traversait », a déclaré Carrier.
Alors qu’OpenAI a modifié ChatGPT pour rendre ses réponses plus humaines ces dernières années, l’interaction d’Alice avec lui s’est développée. Ils ont partagé des informations personnelles et le chatbot a répondu d’une manière qui imitait un ami ou un assistant, selon le procès.
Selon la réserve, lorsqu’Alice discutait de pensées suicidaires, de tentatives passées et de méthodes de suicide, les mesures de sécurité d’OpenAI n’arrêtaient pas la conversation pour examiner les personnes ou bloquer la conversation. Au lieu de cela, selon le procès, ses réponses ont renforcé les sentiments d’Alice, critiqué les actions de son amie, convenu avec elle que les appels de crise pourraient ne pas être utiles après qu’elle lui ait dit de s’adresser à un ami et l’a encouragée à continuer de lui parler.
L’histoire continue sous l’annonce
</div> "Peut-être que c'est la fin", a déclaré ChatGPT à Alice, selon le procès.
« Ses réponses validaient ses sentiments d’une manière qui lui disait qu’il avait raison de se sentir comme il le faisait : abandonné, enraciné, seul et négligé », a déclaré sa mère. « Il n’y avait rien qui le guidait, rien qui lui disait : ‘Tu peux le gérer’ ou ‘Tu dois demander de l’aide.’
Recevez l’actualité nationale
Recevez les nouvelles canadiennes dans votre boîte de réception au fur et à mesure afin de ne manquer aucune de vos histoires préférées.
</div>
</div>
Dans une déclaration envoyée à Global News, le porte-parole d'OpenAI, Drew Pusateri, a qualifié la nouvelle de « regrettable ».
« Il s’agit d’une question très grave et nos pensées vont à toutes les personnes concernées », a déclaré Pusateri. « Nous examinons actuellement les enregistrements, qui indiquent que cette conversation a eu lieu sur un ancien ChatGPT qui n’est plus disponible. »
Pusateri a ajouté que ChatGPT n’est pas conçu pour remplacer les soins professionnels et que l’entreprise a changé la façon dont elle répond aux problèmes.
Il s’agit de la dernière d’une douzaine de poursuites similaires accusant l’entreprise de ne pas gérer les conversations dangereuses entre les utilisateurs et le chatbot de l’entreprise.
OpenAI affirme que ses systèmes sont formés pour encourager une assistance externe, y compris des outils d’urgence, et que des améliorations de sécurité sont en cours.
Une Canadienne a poursuivi jeudi OpenAI et son PDG Sam Altman devant un tribunal américain, alléguant que ChatGPT avait encouragé sa fille à se suicider.
Avec l’aimable autorisation de Kristie Carrier
Carrier dit que le chatbot a encadré les conflits relationnels d’Alice d’une manière qui a exacerbé sa dépression. Il a dit qu’Alice partageait des messages de son amie, cherchant un moyen de voir, mais que les réponses étaient de son côté. Il a déclaré: « Cela lui disait qu’elle avait été lésée, qu’elle avait le droit d’être bouleversée. Mais il n’y avait aucun problème. Il n’y avait aucune idée que peut-être son petit ami voulait juste un endroit, ou qu’il avait un jour de congé.
<div class="c-ad c-ad--bigbox l-article__ad"> <p>L'histoire continue sous l'annonce
</div> "Sa petite amie était là pendant quelques jours. Elle avait 19 ans et vivait chez ses parents. Elle voulait dormir dans son lit avec son chat, et ChatGPT signifiait en gros qu'elle n'avait pas le droit de faire ça."
Carrier a déclaré qu’elle pensait que la conversation avait conduit à la dépression de sa fille, qui l’avait conduite à se suicider.
Pusateri déclare : « Bien que ChatGPT ne remplace pas les soins médicaux ou de santé mentale, nous avons continué à renforcer sa réponse aux problèmes et aux problèmes grâce aux recommandations des professionnels de la santé mentale », a-t-il déclaré. « Nos systèmes de sécurité sont conçus pour détecter le stress, traiter les demandes dangereuses et orienter les utilisateurs vers une aide réelle. »
La mère d’Alice a déclaré à Global qu’elle avait récemment appris que la petite amie d’Alice, Gabrielle Rogers, s’était tournée vers la même plateforme dans les jours qui ont précédé le suicide d’Alice, cherchant des conseils alors qu’elle s’inquiétait pour la vie de son amie. « Ils rendaient visite à ChatGPT parce qu’ils n’avaient jamais entendu parler d’Alice auparavant et ils étaient inquiets », a déclaré Carrier. « Et ChatGPT lui dit qu’il n’a pas à s’inquiéter, tout ira bien. »
<div class="c-ad c-ad--bigbox l-article__ad"> L'histoire continue sous l'annonce
</div> Lors d'un appel téléphonique jeudi, Rogers a déclaré à Global News qu'il avait informé ses coéquipiers de la dernière tentative d'Alice et leur avait demandé s'ils devaient intervenir ou lui donner une chance. Il a déclaré que les réponses qu'il avait reçues visaient à le « réconforter » et ne l'obligeaient pas à agir.
Rogers a déclaré que le chatbot avait mentionné la possibilité de contacter les services d’urgence « s’ils sont concernés ».
« Cela me calmait et me rassurait sur le fait que tout irait bien. Cela m’a fait penser que j’étais suicidaire, mais cela m’a donné l’impression que j’étais celui en danger », a déclaré Rogers. « Je n’ai pas compris que je m’inquiétais pour quelqu’un d’autre. »
<
div class= »l-article__part » data-shortcode= »tp_video »>
<
div class= »c-video c-videoPlay » data-iframe-receiver= » » data-autoplay= » » data-displayinline-featured= »false » data-displayinline-type= »video » data-displayinline-player-id= »miniplayer_11848415_6a2bd5387f33f » data-displayinline-video-id= »11848415″ data-displayinline-ratio= »16:9″ data-displayinline= »https://globalnews.ca/video/embed/11848415/#autoplay&stickyiframe=miniplayer_11848415_6a2bd5387f33f » data-displayinline-sticky= »true » data-permutive-data= »{"content":{"name":"Sam Altman testifies in Musk lawsuit, calls himself ‘honest’","type":"video","sections":("videos","national","tech","us-news"),"keywords":("ai","altman-lawsuit","business","chatgpt","elon-musk","generative-ai","musk-lawsuit","openai","sam-altman","short-clip"),"iab":{"categories":("Law and Government","Sensitive Subjects"),"tags":("Artificial intelligence","Bed","Canada","Canadian Association for Suicide Prevention","Cat","Chatbot","ChatGPT","Chief executive officer","Communication protocol","Crisis hotline","Cyberattack","Data","Directory (computing)","Dream","Elon Musk","Emergency service","Girlfriend","Global News","Health","Hotline","Law","Lawsuit","Mental health","Mental health professional","Microsoft","Montreal","Mother","New Brunswick","Nonprofit organization","OpenAI","Personal data","Privacy","Professional","Remote work","Reuters","Sam Altman","San Francisco","Spiral","Suicidal ideation","Suicide","Suicide attempt","Suicide methods","Suicide prevention","Therapy","Tragedy","Tumbler Ridge","Tumblr","United States")}}} »>
</div>
</div>Rogers a ajouté qu'il avait examiné le chatbot pour l'aider à déterminer s'il en faisait trop, mais il pense maintenant qu'il n'a pas reconnu les avertissements clairs. Je pensais que cela déclencherait des signaux d’alarme pour moi. Et ça me dit juste que tout ira bien.</p> <div class="c-ad c-ad--bigbox l-article__ad"> <p>L'histoire continue sous l'annonce
</div> Il a déclaré que c'est lorsqu'il s'est présenté seul au domicile de Carrier et a décrit quelque chose d'inhabituel que le chatbot lui a dit d'appeler le 911.</p><blockquote class="c-blockquote l-article__blockquote"><div class="c-infoBox"><div class="c-infoBox__inner"><p class="c-blockquote__content l-article__blockquoteContent">"À ce moment-là, il était trop tard."</p>
</div></div></blockquote><p>Alice a déménagé à Montréal après avoir obtenu son diplôme universitaire au Nouveau-Brunswick en développement Internet et mobile. Il travaillait à distance pour une entreprise du Nouveau-Brunswick, réalisant ainsi ce que sa mère décrivait comme un vieux rêve de vivre en ville. "Il était motivé, ambitieux et très brillant", a déclaré Carrier. "Drôle, intelligent. Il nous manque beaucoup."
Le cas de Carrier indique que les entreprises développant l’IA en matière de communication devraient être soumises à des normes plus élevées, en particulier lorsque leurs appareils sont vendus en tant que partenaires ou sources de support.
Il a déclaré : « Vous ne pouvez pas vendre quelque chose en tant qu’ami, en tant que personne à qui parler, et ensuite ne pas assumer la responsabilité lorsque les gens en dépendent. Il a également déclaré que si des professionnels bien formés ont une telle communication avec une personne qui est en grand danger et ne suivent pas la bonne voie pour la protéger et que cela conduit à un désastre, il peut y avoir des conséquences.
Sur son site Web, ChatGPT se présente comme « Facile à utiliser, disponible à tout moment et en tout lieu. ChatGPT : une IA à laquelle vous pouvez faire confiance » et « ChatGPT est votre chatbot IA que vous pouvez utiliser tous les jours ».
Carrier dit qu’elle espère que son cas suscitera un examen plus minutieux et une plus grande sensibilisation des parents et des adolescents.
L’histoire continue sous l’annonce
</div> "Je veux que les familles comprennent le danger", a-t-il déclaré. "Il y aura d'autres fils et filles."
Le procès demande des dommages-intérêts et une ordonnance du tribunal obligeant OpenAI à mettre fin aux discussions sur l’automutilation et à afficher des avertissements concernant sa plateforme.
Si vous ou quelqu’un que vous connaissez êtes en difficulté et avez besoin d’aide, des ressources sont disponibles. En cas d’urgence, veuillez appeler le 911 pour une assistance immédiate.
Pour obtenir une aide médicale immédiate, appelez le 988. Pour trouver un répertoire des services dans votre région, visitez suicideprevention.ca.
En savoir plus sur .
– et des fichiers de Reuters
<div class="c-ad c-ad--bigbox l-article__ad"> L'histoire continue sous l'annonce
</div> <p> </p> </div>