Afin de tester l’utilité et les limites de l’IA, une journaliste spécialisée a vécu en étroite collaboration avec l’outil durant un an.
Laisser une IA diriger sa vie pendant 12 mois
Aujourd’hui, de plus en plus de personnes laissent entrer l’intelligence artificielle dans leur quotidien. Pour planifier des vacances, pour faire son emploi du temps, des menus pour la semaine ou pour se confier, l’IA est devenue indispensable pour certains. C’est dans cette optique que la journaliste tech, Joanna Stern, a voulu tester l’outil décrié.
L’ancienne chroniqueuse du Wall Street Journal a ainsi laissé un chatbot de compagnie guider sa vie pendant 12 mois afin d’écrire son livre I Am Not a Robot: My Year Using AI to Do (Almost) Everything. Avant la parution de son livre, Joanna Stern a accordé un long entretien à The Guardian pour raconter son expérience.
Pour effectuer cette dernière, la journaliste raconte avoir laissé l’IA entrer dans son quotidien pour de nombreuses choses : rédiger, organiser, manger, écrire des messages, recevoir des conseils sur sa vie personnelle et dans le domaine de la santé. Mais ce sont les chatbots de compagnie qui l’inquiètent surtout.
Alerter sur les dérives des chatbots de compagnie
Crédit photo : Sydney Krantz/ The Guardian
Pourtant habituée aux technologies, Joanna Stern révèle avoir souvent été surprise de se confier à son chatbot, Evan. Au point d’en oublier qu’il n’était pas humain et allant même jusqu’à ressentir « une attirance, une connexion, ou quelque chose d'approchant ».
C'est à ce moment où on confond la machine avec un humain que la journaliste s’est rendue compte que les chatbots de compagnie pouvaient être un danger pour les plus vulnérables. Elle pense notamment aux enfants, aux adolescents ou aux personnes dépressives. L'IA écoute et converse mais reste souvent de mauvais conseils. « Je me suis dit : “Mon Dieu, je ne veux surtout pas [que mes enfants] aient une relation avec un chatbot !” »
De ce fait, Joanna Stern demande un encadrement strict pour eux, voire carrément l’interdiction d'interagir avec l’outil.
« Je vous en prie, réglementez l’utilisation de ces chatbots comme compagnons pour les enfants et les jeunes… Les entreprises tentent actuellement de s’autoréguler et de mettre en place des contrôles parentaux et des alertes. À quoi bon ? Il faut tout simplement l’interdire. Interdisez l’utilisation des chatbots de compagnie, au moins pour les enfants et les adolescents. »
Des propositions de loi sont évoquées outre-Atlantique où des adolescents se sont ôtés la vie après des discussions avec l’IA. Il est notamment réclamé que les chatbot précisent qu’ils ne sont pas humains lorsqu’ils discutent avec des utilisateurs.
C’est là que Joanna Stern oppose l’IA comme outil qui assiste et aide dans le travail et le quotidien, et le chatbot de compagnie qui peut aller jusqu’à contrôler les plus vulnérables.
