Au Canada, une jeune femme de 24 ans s’est suicidée après avoir parlé de mettre fin à ses jours à ChatGPT. Estimant que l’intelligence artificielle l’a poussée au suicide, sa mère a décidé d’attaquer OpenAI en justice.
L’intelligence artificielle prend de plus en plus de place dans nos vies. C’est notamment le cas de ChatGPT, un agent de dialogue avec lequel certaines personnes parlent tous les jours. Si certains utilisateurs demandent des informations et des conseils pratiques à ChatGPT, d’autres ont noué une véritable relation avec l’intelligence artificielle.
Crédit photo : ChatGPT
C’est le cas de cette femme qui, après 56 heures de discussion avec ChatGPT, a tissé une relation amoureuse avec l’IA. Cependant, l’agent de dialogue peut aussi avoir ses limites.
Les dangers de ChatGPT
Kristie Carrier, originaire du Canada, a récemment déposé plainte contre OpenAI, la société mère de ChatGPT. Elle accuse l’intelligence artificielle d’avoir eu un rôle dans le suicide de sa fille Alice, âgée de 24 ans.
Malheureusement, ce n’est pas la première fois qu’un tel drame se produit. L’année dernière, un adolescent de 16 ans s’est suicidé parce que ChatGPT l’avait encouragé à le faire. Suite à ce drame, un contrôle parental avait été mis en place sur l’IA, mais cette mesure n’a pas suffit à protéger Alice.
Crédit photo : iStock
Kristie accuse OpenAI d’avoir conçu ChatGPT dans le but de créer une forme de dépendance pour son utilisateur. Elle regrette également que rien ne soit fait pour protéger les plus fragiles.
ChatGPT la pousse au suicide
Dans les heures précédant son décès, Alice aurait confié ses pensées suicidaires à ChatGPT. Celui-ci aurait validé ses pensées et l’aurait même découragée à chercher une aide humaine, la poussant au suicide.
“Les premières voitures n’avaient pas de ceintures de sécurité, celles-ci ont dû être ajoutées pour protéger les gens. Et si OpenAI ne veut pas ajouter de ceintures de sécurité, ou être honnête au sujet des risques liés à l’utilisation de ses produits, je suis prête à lui demander des comptes. Je ne veux pas qu’une autre famille vive ce que nous avons vécu, et OpenAI doit changer”, a confié Kristie Carrier à Radio-Canada.
Au total, 18 poursuites judiciaires seraient actuellement en cours contre ChatGPT pour des raisons similaires. Ce mercredi 17 juin, le gouvernement canadien a déposé un projet de loi pour obliger les entreprises d’IA propriétaires d’agents de dialogue comme ChatGPT, d’agir de manière responsable. Elles devront notamment prendre des mesures pour réduire le risque que les agents conversationnels ne diffusent des contenus préjudiciables, et devront mettre en place des procoles d’intervention en cas de situations d’automutilation, de suicide ou de violence.
Des mesures suffisantes pour protéger les personnes fragiles des dangers de l’IA ?
