Les médecins de l'IA vont rendre les soins de santé meilleurs et plus attentionnés

Oct 06, 2023

Personne ne s'attend à des subtilités délicates d'un chatbot. Une écriture médiocre, bien sûr, avec quelques faits inventés et un peu de racisme aléatoire. J'ai moi-même écrit sur ces inconvénients de l'IA.

Mais ces grands et nouveaux chatbots peuvent, comme nous le savons, également générer des réponses à consonance humaine aux invites et aux questions. Et dans un récent test face à face, cette capacité a donné aux bots une supériorité surprenante dans ce qui devrait être l'une des activités les plus intrinsèquement humaines de toutes : servir de médecin.

Pour effectuer le test, une équipe de chercheurs de l'Université de Californie à San Diego s'est cachée sur r/AskDocs, un forum Reddit où des professionnels de la santé enregistrés et vérifiés répondent aux questions médicales des gens. Les chercheurs ont sélectionné près de 200 questions représentatives sur le forum, de la plus idiote (« A avalé un cure-dent, un ami a dit que je vais mourir ») à la terrifiante (« fausse couche un jour après une échographie normale ? »). Ils ont ensuite introduit les questions dans la gueule virtuelle du bot ChatGPT et ont demandé à un groupe distinct d'experts de la santé de procéder à une évaluation à l'aveugle des réponses de l'IA et des médecins.

Les résultats ont été choquants. D'une part, ChatGPT est sorti bien en avance sur les médecins humains sur l'utilité. Presque invariablement, les réponses du chatbot ont été jugées trois ou quatre fois plus fiables que celles des pauvres petits humains. De plus, les bots n'ont montré aucune des tendances pénibles à inventer des trucs qu'ils ont souvent dans d'autres circonstances.

Mais voici la partie la plus frappante : les réponses des chatbots ont, en moyenne, été jugées sept fois plus empathiques que celles des humains. Sept fois! Ils ont fourni exactement ce que vous attendiez de votre médecin : des soins et un lien émotionnel. C'est comme si l'androïde insensible M. Data avait compris comment imiter de manière convaincante la manière réconfortante du Dr Crusher au chevet du patient.

Maintenant, certes, la barre est basse pour battre les médecins humains pour des démonstrations d'empathie. Pourtant, la facilité apparente avec laquelle le bot pouvait gérer les problèmes médicaux, à la fois dans le style et dans le fond, présage une utilisation réelle et réelle de ces choses. Je suis sceptique quant au fait que les robots IA pilotés par de grands modèles linguistiques révolutionneront le journalisme ou même amélioreront la recherche sur Internet. Je suppose que je suis ouvert à l'idée qu'ils vont accélérer le codage des logiciels et l'analyse des feuilles de calcul. Mais je pense maintenant qu'avec quelques retouches, les chatbots pourraient radicalement améliorer la façon dont les gens interagissent avec les prestataires de soins de santé et notre complexe médico-industriel en panne.

Le but de l'expérience d'empathie n'était pas de montrer que ChatGPT pouvait remplacer un médecin ou une infirmière. Il s'agissait de montrer qu'un chatbot pouvait avoir un rôle dans la prestation de soins. Notre système de santé à but lucratif n'embauche pas suffisamment de médecins et d'infirmières, et il s'attend à ce que ceux qu'il embauche traitent de plus en plus de patients, à la chaîne. Personne n'aime ça, sauf les gens qui s'enrichissent.

"Les gens sont déconnectés des soins de santé et ils sont désespérés", déclare John Ayers, épidémiologiste informatique à l'UC San Diego, auteur principal du nouvel article. Ils cherchent donc des réponses sur des forums comme r/AskDocs. "C'est ainsi que les patients font cela maintenant. Et les médecins ne s'y sont pas inscrits."

La pression pour répondre à ces messages est devenue intense. La pandémie de COVID a accéléré les contacts en ligne à distance entre les médecins et les patients – et même au cours de la première année de la pandémie, les recherches ont suggéré que les médecins passaient près d'une heure chaque jour de travail à gérer leurs boîtes de réception. Ajoutez à cela la gestion d'autres technocraties de dossiers médicaux électroniques et vous vous retrouvez avec certains médecins qui consacrent la moitié de leur temps chaque jour à ces allers-retours. Il suffit que l'assurance facture souvent le temps passé à répondre aux messages, ce qui en fait une source potentielle de revenus au-delà des interactions en face à face.

Des études antérieures ont demandé si les patients et les médecins aiment utiliser ces systèmes de messagerie ; Ayers a examiné si le système fonctionnait réellement. "Nous avons utilisé de vrais messages", dit-il. "Personne n'a jamais fait ça avant." Le résultat, basé sur la qualité des interactions, était définitif. "ChatGPT a remporté une victoire écrasante", déclare Ayers. "Ce truc est probablement prêt pour les heures de grande écoute."

Sur la base du succès initial du bot, Ayers est prêt à voir ce qu'il peut gérer de plus. "Nous voulons commencer des essais contrôlés randomisés, où vous évaluez les messages des patients par rapport aux résultats des patients", dit-il - non seulement si les messages sont exacts ou empathiques, mais s'ils aident à garder les gens en meilleure santé ou en vie plus longtemps. Et si un chatbot pouvait aider une personne qui se remet d'une crise cardiaque à suivre un régime pauvre en sel, lui rappeler de prendre ses médicaments, maintenir son traitement à jour ? "Un message dans ce cas pourrait sauver la vie de ce patient", déclare Ayers.

Malgré toutes les promesses du monde technologique des robots de compagnie et des psychothérapeutes IA, l'idée d'un chatbot attentionné semble toujours déstabilisante, voire dangereuse. Personne ne pense que ChatGPT s'en soucie vraiment, pas plus qu'il ne pense que c'est réellement intelligent. Mais si notre système de santé actuel et défaillant empêche les humains de prendre soin les uns des autres, peut-être que de faux soins sauveront de vraies vies. Un assistant artificiellement intelligent n'est peut-être pas plus humain qu'humain, mais peut-être sera-t-il plus humain.

Les systèmes d'IA spécialisés - pas des chatbots stupides - sont déjà assez bons pour les diagnostics. Ils sont hautement qualifiés pour détecter une chose, comme une tumeur ou une septicémie, en utilisant des résultats de test spécifiques comme entrée. Mais ils sont chers et difficiles à construire. Ainsi, l'établissement médical saute sur les chatbots comme un outil moins cher et plus omniprésent. Des dizaines d'entreprises travaillent sur des applications, visant des utilisations allant du diagnostic de maladies à l'aide à la paperasserie qui est en quelque sorte devenue la responsabilité des médecins et des patients. Si vous avez la chance d'avoir une assurance maladie, votre compagnie d'assurance a probablement déjà une sorte de chatbot stupide à qui vous pouvez parler avant de pouvoir avoir un humain au téléphone.

Si vous demandez aux gens s'ils sont d'accord avec cette idée, ils disent généralement non. Soixante pour cent des Américains interrogés récemment par le Pew Research Center ont déclaré qu'ils ne voudraient pas d'un système d'IA diagnostiquant leur maladie ou proposant des traitements. Mais ils vont probablement l'obtenir de toute façon. Ne dites à personne que j'ai dit cela, mais une grande partie de ce que font les travailleurs de la santé est déjà un peu stéréotypée - du moins au niveau le plus bas de l'interface avec le patient. Vous vous sentez mal et appelez une infirmière-conseil; ils posent des questions prédéfinies pour déterminer si vous devez vous rendre aux urgences ou simplement aller prendre un Tylenol. C'est ce qu'on appelle le triage. Ou, si vous avez un accès électronique à vos dossiers médicaux, vous obtenez peut-être les résultats d'une nouvelle série de tests et vous envoyez un e-mail à votre médecin pour lui demander ce qu'ils signifient. Quoi qu'il en soit, vous ne vous attendez pas à profiter de ces rencontres. Ils sont superficiels. Robotique, même.

Eh bien, vous savez qui est très doué pour les choses robotiques ? Robots ! Récemment, une équipe de chercheurs de Harvard a montré des dizaines de descriptions de problèmes de santé à trois groupes : les médecins, les personnes sans formation médicale et ChatGPT. Ils ont demandé à tout le monde (et à la chose) de diagnostiquer la maladie, puis de faire des recommandations de triage.

Les humains non-médecins ont été autorisés à faire une recherche sur Internet - ce que les professionnels de la santé appellent, avec effroi, "Dr Google". Mais même avec l'assistance en ligne, les humains non formés étaient terribles au diagnostic. Pas de choc là. Mais, comme le rapportent les chercheurs dans une récente prépublication - ce qui signifie qu'il n'a pas encore été évalué par des pairs - le chatbot était presque aussi bon pour le diagnostic (avec un score de plus de 80 %) que les médecins humains (qui ont obtenu un score de plus de 90 %). Et lors du triage, ChatGPT a obtenu un peu mieux que 70 % de réponses correctes. Cela semble minable comparé aux 91 % du médecin, mais quand même ! Il s'agit d'un chatbot à usage général, presque aussi bon qu'un médecin parfaitement formé.

Imaginez maintenant ajouter à cet ensemble de compétences le type de tâches de santé banales et chronophages que les chatbots devraient être capables de gérer - des choses comme la prise de rendez-vous, la demande d'autorisation préalable à l'assurance et la gestion des dossiers médicaux électroniques. "Ce sont des tâches pour lesquelles personne n'est allé en médecine, et ce sont des maux de tête énormes, des pertes de temps énormes, épuisantes physiquement et émotionnellement", déclare Teva Brender, résidente en médecine à l'Université de Californie à San Francisco. Peut-être qu'un chatbot pourrait générer au moins les débuts de ce type de trafic bureaucratique, ainsi que tous les e-mails aux patients. "Le médecin pourrait le feuilleter et dire:" Oui, c'est vrai "et l'envoyer", explique Brender.

Cela semble être un scénario probable. Des chatbots hautement qualifiés travailleront en tandem avec des médecins, des infirmières et des assistants médicaux pour fournir des réponses plus empathiques et plus complètes aux personnes qui ont besoin de soins. Comme l'a écrit l'équipe d'Ayers en 2019, les gens ont tellement besoin d'aide médicale qu'ils publient des images de leurs propres organes génitaux sur le subreddit r/STD dans l'espoir d'obtenir un diagnostic précis. C'est tout simplement triste au-delà de toute croyance, et une mise en accusation stupéfiante de notre système de santé vraiment merdique et inhumain.

Dans un système aussi pauvre, l'IA pourrait en fait être une amélioration. "Un clinicien humain soutenu par la base de connaissances et la puissance de traitement des systèmes d'IA ne sera que meilleur", déclare Jonathan Chen, médecin à la Stanford University School of Medicine qui a étudié les systèmes d'IA. "Il est tout à fait probable que les patients obtiendront des conseils médicaux imparfaits à partir de systèmes automatisés disponibles 24 heures sur 24, 7 jours sur 7, plutôt que d'attendre des mois pour un rendez-vous avec un expert humain."

Pour améliorer ces systèmes basés sur l'IA, de nombreuses personnes, y compris l'équipe d'Ayers, travaillent actuellement sur des modèles de langage plus petits, finement réglés avec des informations médicales. L'attrait de ChatGPT, tel qu'il est, est qu'il s'agit d'un généraliste qui puise sa contribution dans tout ce qui se trouve sur Internet. Mais c'est ainsi que les préjugés et la désinformation se faufilent. Donnez à ces chatbots médicaux l'accès aux dossiers médicaux individuels des gens, et ils pourraient offrir des conseils plus précis. "Lorsque cette technologie a accès aux dossiers de santé électroniques, cela change vraiment la donne", déclare Ayers.

Si un avenir de conseils de santé basés sur l'IA - avec accès à vos dossiers médicaux - vous inquiète, je ne vous en veux pas. Les mauvais résultats de la science-fiction ici sont assez dystopiques. Après des années de travail, la Food and Drug Administration n'a toujours pas de cadre prêt à réglementer l'IA et l'apprentissage automatique dans les dispositifs médicaux. Quelqu'un devra résoudre toutes les questions de responsabilité entourant les conseils de chatbot, en particulier lorsqu'ils sont mauvais. Les startups de l'IA de la santé voudront les versions les moins chères avec le meilleur rapport financier, qui n'auront pas nécessairement les meilleurs résultats pour les patients. Et si une entreprise de soins de santé parvient à affiner un chatbot avec des médicaments de pointe, alors n'importe quelle entreprise peut faire la même chose avec l'homéopathie ou des bougies parfumées - ou des bêtises anti-vaccins. Ces chatbots vont cracher de dangereuses désinformations, à la fois avec éloquence et empathie.

"C'est le pire des cas", déclare Greg Corrado, responsable de Health AI chez Google. "Ce n'est pas quelque chose que les gens de la Silicon Valley peuvent faire de manière isolée." Cela signifie développer ces systèmes en collaboration avec des experts de la santé, et pas seulement avec des cadres de la santé, pour s'assurer qu'ils sont privés et sûrs et qu'ils aident réellement les gens.

Ce ne sera pas facile, mais cela pourrait être nécessaire. Notre système de santé, malheureusement, n'est pas conçu pour fournir à chacun des soignants humains décents. Et jusqu'à ce que cela change, ce serait bien d'avoir des robots qui pourraient nous aider à rester en bonne santé. S'ils peuvent simuler qu'ils se soucient de nous en même temps - peut-être même mieux que les médecins humains - eh bien, ce serait toujours un bon message à recevoir.

Adam Rogers est correspondant principal chez Insider.

À travers notre journalisme de discours, Insider cherche à explorer et à éclairer les problèmes et les idées les plus fascinants de la journée. Nos rédacteurs fournissent des perspectives stimulantes, éclairées par des analyses, des rapports et une expertise. Lisez plus d'histoires de discours ici.

Lire la suite