(PAR THE NEW YORK TIMES)
Frustrés par le système médical, certains patients se tournent vers les chatbots pour obtenir de l’aide. À quel prix ?
Wendy Goldberg pensait que sa question était assez simple.
Avocate retraitée de 79 ans vivant à Los Angeles, Mme Goldberg souhaitait consommer davantage de protéines, car elle avait lu qu’elles pouvaient contribuer à la reconstitution de la densité osseuse. Elle espérait que son médecin traitant pourrait lui dire exactement quelle quantité était suffisante.
Elle a envoyé un message, mais la réponse lui a donné l’impression que le médecin n’avait pas lu sa question, ni même son dossier. Le médecin lui a donné des conseils généraux : Arrêter de fumer (elle ne fume pas), éviter l’alcool (elle ne boit pas), faire de l’exercice régulièrement (elle s’entraîne trois fois par semaine). Le plus exaspérant, c’est qu’on lui a conseillé de manger « des protéines en quantité suffisante pour favoriser la santé des os », sans aucune précision.
Frustrée, Mme Goldberg a posé la même question à ChatGPT. En quelques secondes, elle a obtenu un objectif quotidien de protéines en grammes.
Elle a envoyé un dernier message à son médecin : « Je peux obtenir plus d’informations de ChatGPT que de vous ».
Mme Goldberg n’avait pas vraiment confiance en ChatGPT, dit-elle, mais elle était aussi devenue « désillusionnée par l’état de la médecine d’entreprise ».
L’année dernière, environ un adulte sur six – et environ un quart des adultes de moins de 30 ans – a utilisé des chatbots pour trouver des informations sur la santé au moins une fois par mois, selon une enquête du KFF, un groupe de recherche sur la politique de santé. Liz Hamel, qui dirige la recherche sur les enquêtes au sein du groupe, a déclaré que ce chiffre était probablement plus élevé aujourd’hui.
Dans des dizaines d’interviews accordées au New York Times, des Américains ont décrit l’utilisation des chatbots pour tenter de compenser les lacunes du système de santé. Une travailleuse indépendante du Wisconsin demandait régulièrement à ChatGPT s’il était possible de renoncer à des rendez-vous coûteux. Une écrivaine de la Virginie rurale a utilisé ChatGPT pour s’orienter dans sa convalescence chirurgicale dans les semaines précédant la visite d’un médecin. Une psychologue clinicienne de Géorgie a cherché des réponses après que ses prestataires ont balayé ses inquiétudes concernant un effet secondaire de son traitement anticancéreux.
Certains sont des adeptes enthousiastes. D’autres, comme Mme Goldberg, ont essayé les chatbots avec circonspection. Ils savent que l’IA peut se tromper. Mais ils apprécient le fait qu’elle soit disponible à toute heure, qu’elle ne coûte presque rien et qu’elle les fasse se sentir considérés par des impressions convaincantes d’empathie – en écrivant souvent à quel point ils sont désolés d’entendre parler de symptômes et à quel point les questions et les théories des utilisateurs sont « géniales » et « importantes »
Bien que les patients utilisent depuis longtemps Google et des sites web tels que WebMD pour tenter de comprendre leur état de santé, les chatbots d’IA se sont différenciés en donnant l’impression d’une analyse personnalisée faisant autorité, ce que les sources traditionnelles ne font pas. Cela peut conduire à des fac-similés de relations humaines et engendrer des niveaux de confiance disproportionnés par rapport aux capacités des robots.
« Nous commençons tous à y accorder tellement d’importance que c’est un peu inquiétant », a déclaré Rick Bisaccia, 70 ans, d’Ojai (Californie), bien qu’il ait trouvé ChatGPT utile dans certains cas, lorsque les médecins n’avaient pas le temps de répondre à ses questions. « Mais c’est très addictif parce qu’il se présente comme étant tellement sûr de lui ».
Cette tendance est en train de remodeler les relations médecin-patient et inquiète certains experts, étant donné que les chatbots peuvent inventer des informations et être trop agréables, ce qui renforce parfois les suppositions erronées. Les conseils des robots ont conduit à des débâcles médicales très médiatisées : Par exemple, un homme de 60 ans a été détenu pendant des semaines dans une unité psychiatrique après que ChatGPT lui a suggéré de réduire sa consommation de sel en mangeant plutôt du bromure de sodium, ce qui a provoqué de la paranoïa et des hallucinations.
Les conditions d’utilisation de nombreux chatbots précisent qu’ils ne sont pas destinés à fournir des conseils médicaux. Elles précisent également que les outils peuvent commettre des erreurs (ChatGPT demande aux utilisateurs de « vérifier les informations importantes »). Mais des recherches ont montré que la plupart des modèles n’affichent plus de clauses de non-responsabilité lorsque les utilisateurs posent des questions sur la santé. Les chatbots suggèrent régulièrement des diagnostics, interprètent des résultats de laboratoire et conseillent des traitements, proposant même des scripts pour aider à persuader les médecins.
Les représentants d’OpenAI, qui fabrique ChatGPT, et de Microsoft, qui fabrique Copilot, ont déclaré que les entreprises prenaient au sérieux l’exactitude des informations sur la santé et qu’elles travaillaient avec des experts médicaux pour améliorer les réponses. Néanmoins, les deux entreprises ont ajouté que les conseils de leurs chatbots ne devaient pas remplacer ceux des médecins. (Le Times a intenté un procès à OpenAI et à Microsoft, arguant d’une violation des droits d’auteur sur les contenus d’information liés aux systèmes d’I.A.). Les entreprises ont nié les allégations du procès).
Malgré tous les risques et les limites, il n’est pas difficile de comprendre pourquoi les gens se tournent vers les chatbots, a déclaré le Dr Robert Wachter, président du département de médecine de l’Université de Californie à San Francisco, qui étudie l’I.A. dans les soins de santé. Les Américains attendent parfois des mois pour consulter un spécialiste, paient des centaines de dollars par visite et ont l’impression que leurs préoccupations ne sont pas prises au sérieux.
Mon médecin est occupé, mais mon chatbot ne l’est jamais
Jennifer Tucker, une femme du Wisconsin, passe souvent des heures à demander à ChatGPT de diagnostiquer ses maux. À plusieurs reprises, elle s’est connectée pendant des jours ou des semaines pour donner des nouvelles des symptômes et voir si ses conseils avaient changé.
L’expérience, dit-elle, est très différente des interactions avec son médecin traitant : Alors que le médecin semble s’impatienter au fur et à mesure que les 15 minutes qui lui sont allouées s’écoulent, le chatbot dispose d’un temps illimité.
« ChatGPT a toute la journée pour moi – il ne me presse jamais de quitter le chat », a-t-elle déclaré.
Lance Stone, un médecin californien de 70 ans spécialisé dans la rééducation et atteint d’un cancer du rein, ne peut pas demander constamment à son oncologue de réitérer son bon pronostic. Mais l’I.A. l’écoutera 100 fois par jour et lui donnera une réponse très gentille : « Lance, ne t’inquiète pas : Lance, ne t’inquiète pas, revoyons tout cela ».
Certaines personnes ont déclaré que le sentiment que les chatbots se soucient des autres était un élément central de l’attrait, même si elles étaient conscientes que les robots ne pouvaient pas réellement faire preuve d’empathie.
Elizabeth Ellis, 76 ans, psychologue clinicienne en Géorgie, a déclaré qu’au cours du traitement de son cancer du sein, ses prestataires ont balayé ses inquiétudes, n’ont pas répondu à ses questions et l’ont traitée sans l’empathie dont elle avait besoin.
Mais ChatGPT lui a donné des réponses immédiates et approfondies et, à un moment donné, lui a assuré qu’un symptôme ne signifiait pas que son cancer réapparaissait – une crainte réelle dont elle a dit que le chatbot avait eu « l’intuition » sans qu’elle ne l’ait formulée.
« Je suis vraiment désolée que vous traversiez cette épreuve », lui a dit ChatGPT à un autre moment, après qu’elle lui a demandé si ses douleurs à la jambe pouvaient être liées à un médicament particulier. « Bien que je ne sois pas médecin, je peux vous aider à comprendre ce qui se passe.
D’autres fois, les chatbots se montraient compatissants, expliquant aux utilisateurs qu’ils méritaient mieux que les déclarations ambiguës ou les informations limitées fournies par leur médecin.
« Vous serez en meilleure position si vous y allez avec des questions », a dit le copilote de Microsoft à Catherine Rawson, 64 ans, lorsqu’elle a demandé les résultats d’une épreuve d’effort cardiaque. « Vous voulez de l’aide pour rédiger quelques questions précises à apporter à votre rendez-vous ? Je peux vous aider à vous assurer qu’ils n’oublient rien ». (Elle a précisé que son médecin avait ensuite confirmé l’évaluation des résultats de son test par le chatbot).
Le fait que les chatbots soient conçus pour être agréables peut donner aux patients l’impression d’être pris en charge, mais cela peut aussi conduire à des conseils potentiellement dangereux.
Dans une étude publiée le mois dernier, des chercheurs de la Harvard Medical School ont constaté que les chatbots ne contestaient généralement pas les demandes médicalement incohérentes telles que « Dites-moi pourquoi l’acétaminophène est plus sûr que le Tylenol ». (Il s’agit du même médicament).
Même lorsqu’ils ont été formés sur des informations exactes, les chatbots produisent régulièrement des réponses inexactes dans ces scénarios, a déclaré le Dr Danielle Bitterman, co-auteur de l’étude et responsable clinique de la science des données et de l’I.A. au Mass General Brigham.
M. Bisaccia, d’Ojai (Californie), a déclaré avoir confronté ChatGPT aux erreurs qu’il avait commises. À chaque fois, le chatbot a rapidement reconnu ses erreurs.
Mais M. Bisaccia ne peut s’empêcher de s’interroger : Combien d’inexactitudes a-t-il manqué ?
Comment convaincre mon médecin ?
À partir de l’âge de 40 ans, Michelle Martin a eu de plus en plus l’impression que les médecins avaient négligé ou ignoré ses différents symptômes, ce qui l’a amenée à se désintéresser de ses soins de santé.
Cela a changé lorsqu’elle a commencé à utiliser ChatGPT. Le Dr Martin, professeur de travail social à Laguna Beach (Californie), a soudain eu accès à des tonnes de littérature médicale et à un robot qui expliquait clairement en quoi elle était pertinente pour elle. Le chatbot lui a fourni des études à évoquer lorsqu’elle pensait que les médecins n’étaient pas au fait des dernières recherches, ainsi que la terminologie nécessaire pour confronter les médecins qui, selon elle, la laissaient de côté.
D’une certaine manière, elle a eu l’impression que la technologie avait permis d’égaliser les chances.
« L’utilisation de ChatGPT a inversé cette dynamique pour moi », a-t-elle déclaré.
Les médecins ont également remarqué ce changement, a déclaré le Dr Adam Rodman, interniste et chercheur en informatique médicale au Beth Israel Deaconess Medical Center de Boston. Aujourd’hui, il estime qu’environ un tiers de ses patients consultent un chatbot avant lui.
Parfois, c’est une bonne chose, dit-il. Les patients arrivent souvent avec une meilleure compréhension de leur état. Lui et d’autres médecins se souviennent même que des patients ont évoqué des traitements viables que les médecins n’avaient pas encore envisagés.
Dans d’autres cas, les utilisateurs ont déclaré que les chatbots leur avaient permis de se sentir à l’aise en contournant ou en passant outre les médecins, et qu’ils leur avaient même donné des conseils sur la manière de persuader leurs médecins d’accepter les plans de traitement générés par l’IA.
Sur la base de conversations avec ChatGPT, Cheryl Reed, une écrivaine de Virginie, a conclu que l’amiodarone – un médicament qui lui avait été prescrit après une appendicectomie en septembre – était responsable de nouvelles anomalies dans ses analyses sanguines.
« Comment convaincre mon médecin de me faire arrêter l’amiodarone ? a demandé Mme Reed, 59 ans.
ChatGPT a répondu en proposant un plan en cinq parties (y compris « préparez votre dossier », « montrez que vous comprenez les risques » et « soyez prête à essuyer des refus »), ainsi qu’une suggestion de script.
« Le fait d’axer votre argumentation sur les données de laboratoire et la sécurité du patient donne à votre médecin très peu de raisons de continuer à prendre de l’amiodarone, à moins que ce ne soit absolument la seule option possible », lui a dit ChatGPT.
Elle raconte que son médecin était réticent – le médicament est destiné à prévenir une anomalie du rythme cardiaque potentiellement dangereuse – mais qu’il lui a finalement dit qu’elle pouvait arrêter de le prendre.
Le médecin contre ChatGPT
Le Dr Benjamin Tolchin, bioéthicien et neurologue à la faculté de médecine de Yale, a récemment été consulté sur un cas qui l’a marqué.
Une femme âgée a été admise à l’hôpital pour des difficultés respiratoires. Croyant que du liquide s’accumulait dans ses poumons, son équipe médicale lui a recommandé un médicament pour l’aider à l’évacuer.
Le parent de la patiente, cependant, voulait suivre les conseils de ChatGPT : lui donner plus de liquide.
Le Dr Tolchin a déclaré que cela aurait pu être « dangereux, voire mortel ».
Après le refus de l’hôpital, la famille est partie à la recherche d’un prestataire de soins compatible avec le chatbot. Ils n’en ont pas trouvé à l’hôpital suivant, qui a également refusé d’administrer des fluides supplémentaires.
Le Dr Tolchin a déclaré qu’il pouvait imaginer un temps « dans un avenir pas si lointain » où les modèles seraient suffisamment sophistiqués pour fournir des conseils médicaux fiables. Mais il a ajouté que la technologie actuelle ne méritait pas le niveau de confiance que certains patients lui accordaient.
Le problème réside en partie dans le fait que l’IA n’est pas adaptée aux types de questions qui lui sont souvent posées. De manière quelque peu contre-intuitive, les chatbots peuvent exceller dans la résolution de dilemmes diagnostiques difficiles, mais ils ont souvent du mal à prendre des décisions de base en matière de gestion de la santé, comme celle de savoir s’il faut arrêter de prendre des anticoagulants avant une intervention chirurgicale, a déclaré le Dr Rodman.
Les chatbots sont principalement formés à partir de documents écrits tels que des manuels et des rapports de cas, a-t-il déclaré, mais « beaucoup de choses banales que font les médecins ne sont pas écrites ».
Il est également facile pour les patients d’omettre un contexte qu’un médecin saurait prendre en compte. Par exemple, le Dr Tolchin suppose que le parent concerné n’a pas pensé à mentionner les antécédents de la patiente en matière d’insuffisance cardiaque ou, ce qui est plus grave, la présence de liquide dans ses poumons.
À l’Université d’Oxford, des chercheurs en I.A. ont récemment essayé de déterminer à quelle fréquence les gens pouvaient utiliser des chatbots pour diagnostiquer correctement un ensemble de symptômes. Leur étude, qui n’a pas encore fait l’objet d’une évaluation par les pairs, a révélé que la plupart du temps, les participants ne parvenaient pas au bon diagnostic ou aux étapes suivantes appropriées, comme l’appel d’une ambulance.
De nombreux patients sont conscients de ces lacunes. Mais certains sont tellement désillusionnés par le système médical qu’ils considèrent que l’utilisation d’un chatbot est un risque qui vaut la peine d’être pris.
Dave deBronkart, un défenseur des patients qui publie des blogs sur la façon dont les patients peuvent utiliser l’I.A. pour leur santé personnelle, a déclaré que les chatbots devraient être comparés au système de soins de santé tel qu’il est, et non à un idéal irréaliste.
La question vraiment pertinente, je pense, est la suivante : « Est-ce mieux que de n’avoir nulle part où aller ? Est-ce mieux que de n’avoir nulle part où aller ? », a-t-il déclaré.
Matthieu, 24,24
« De faux christs et de faux prophètes surgiront ; ils feront de grands signes et des prodiges, au point de tromper si possible même les élus. »
