Opinion : Les Chatbots Deviennent les Médecins Traitants Principaux des Gens—Impressionnant, Mais Risqué

Nous passons assez rapidement du Dr Google au Dr Chatbot. En août, OpenAI a signalé plus de 200 millions d’utilisateurs actifs hebdomadaires, et bien que les requêtes les plus populaires des utilisateurs concernent l’écriture et la programmation, certains les utilisent pour des questions plus personnelles, allant des conseils de rencontres à des routines de soins de la peau et des diagnostics de maladies.

Une récente étude a révélé que les chatbots IA surpassent les médecins en précision diagnostique. Mais, pouvons-nous vraiment faire confiance à l’IA en tant que nos médecins ?

Tout comme la gamme de sujets sur lesquels les gens se renseignent s’est élargie, les inquiétudes concernant les risques et dangers de la dépendance à l’IA dans le domaine médical ont également suscité des alarmes, y compris celles impliquant des questions de vie ou de mort.

Le Dr. Chatbot devient viral pour ses “miracles”

Il y a quelques jours, une femme est devenue virale sur Reddit parce qu’elle a partagé comment ChatGPT l’a aidée à améliorer sa peau mieux qu’un dermatologue avec des images avant-après impressionnantes.

Une femme caucasienne de 37 ans a utilisé ChatGPT pour créer une routine de soins de la peau sur mesure pour traiter ses comédons fermés, et cela l’a réellement aidée ! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 novembre 2024

“J’ai ensuite demandé à chatGPT de se comporter comme un dermatologue professionnel et de m’aider à établir une routine de soins de la peau qui me permettrait de me débarrasser de mes comédons fermés, de l’acné, de minimiser les pores et de raffermir la peau, et de réduire les ridules. J’ai également fourni des photos de ma peau à ce moment-là », a-t-elle écrit, puis a expliqué qu’elle avait demandé au chatbot de tenir compte de tous les produits qu’elle possédait déjà et de lui en suggérer de nouveaux dans le cadre d’une routine de soins de la peau.

Après deux mois, la Redditeur était émerveillée par les améliorations de sa peau.

Ce n’est pas un cas isolé. De nombreux utilisateurs ont révélé comment les chatbots ont été capables de comprendre et d’expliquer les radiographies et les analyses de sang mieux que leurs propres médecins. Même les médecins ont été étonnés par l’analyse des images et des données interprétées par l’intelligence artificielle.

Pourquoi Les Gens Utilisent-ils Des Chatbots Comme Médecins ?

L’IA peut se transformer en le professionnel dont vous avez besoin – un médecin généraliste, un thérapeute, un dermatologue, un nutritionniste, un radiologue – quand vous en avez besoin, et il y a beaucoup de raisons pour lesquelles les gens choisissent l’IA plutôt que les humains.

Les spécialistes peuvent être coûteux

La femme avec le problème de peau a révélé qu’elle avait dépensé environ 400 dollars pour acheter les produits suggérés par le chatbot.

« C’était un investissement conséquent, mais quand je pense à ce qu’une consultation avec un dermatologue aurait coûté, ce n’est même pas si mal, » a-t-elle écrit.

Selon BetterCare, en 2024 un patient sans assurance santé aux États-Unis devra payer environ 150 $ pour une visite chez le dermatologue et jusqu’à 1000 $ pour un traitement. Et le coût moyen d’une séance de psychothérapie – une autre utilisation populaire des outils d’IA – varie de 100 à 200 $ par séance, selon Forbes Health.

Les chatbots IA sont des alternatives moins chères et pourraient être considérés comme le seul choix, en particulier pour les personnes aux revenus les plus modestes.

Bien sûr, une autre question se pose : Si quelque chose tourne mal, est-ce vraiment une mesure d’économie ?

Plus Rapide Et Plus Pratique

J’ai récemment eu une éruption cutanée sur mon bras. Même si j’ai vu ce post sur le miracle de la peau de cette femme, j’ai préféré consulter un dermatologue en Espagne. Le premier rendez-vous disponible était dans trois mois, même avec une assurance santé privée. J’ai de la chance que cela semble être simplement de la sécheresse, que cela ne me dérange pas et qu’espérons-le, cela disparaîtra d’ici à ce que le médecin puisse me voir.

Les délais de soins médicaux dépendent de la ville et du plan d’assurance du patient. Cependant, voir des spécialistes et même des médecins généralistes est devenu un test de patience dans de nombreuses parties du monde.

Les chatbots ne sont pas seulement à la portée de nos mains, mais ils peuvent analyser nos requêtes et répondre en quelques secondes.

Moins Gênant

J’ai une amie médecin à qui je peux m’adresser chaque fois que j’ai une consultation médicale, mais le fait qu’elle soit mon amie rend parfois la situation gênante. Avant de lui envoyer un message, je me demande toujours : ai-je pris de ses nouvelles récemment ? C’est une personne formidable et une professionnelle exceptionnelle, et je suis sûre qu’elle ne cessera jamais de répondre à mes préoccupations médicales. Cependant, de personne à personne, je ne peux m’empêcher de me soucier de ses sentiments également.

L’un des avantages de l’intelligence artificielle est sa propre condition artificielle. Elle n’a pas de sentiments ou de mauvais jours, elle ne vous jugera pas ou ne vous dira pas « Arrête d’être un tel hypocondriaque » (non pas que mon ami m’ait jamais dit cela) car elles sont formées pour être polies et répondre à toutes nos préoccupations avec toutes les informations que nous souhaitons. C’est une partie de ce qui rend la technologie addictive, et probablement pourquoi beaucoup préfèrent poser des questions gênantes dans « l’intimité » de leurs smartphones.

Les Risques Et Les Dangers De S’appuyer Sur Les Chatbots

Tout cela semble cool et amusant jusqu’à ce que nous prenions le temps de réfléchir aux risques et aux défis auxquels l’IA et l’humanité sont confrontées.

Mauvaise Invite, Mauvais Sort

Dans cette étude où l’IA a surpassé les médecins, une conclusion importante a été tirée : le groupe de médecins qui avait le droit d’utiliser l’IA comme alliée pour les diagnostics n’a pas performé de manière significativement meilleure que ceux qui n’étaient pas autorisés à l’utiliser. Pourquoi ? Eh bien, une partie du problème était qu’ils ne savaient pas comment formuler les bonnes questions pour tirer le meilleur parti de l’IA.

« Ils la traitaient comme un moteur de recherche pour des questions dirigées : ‘La cirrhose est-elle un facteur de risque pour le cancer ? Quels sont les diagnostics possibles pour une douleur oculaire ?’ », a déclaré le Dr Jonathan H. Chen, l’un des auteurs de l’étude, au New York Times.

C’est l’un des problèmes auxquels de nombreux utilisateurs et technologies d’IA sont également confrontés. Les chatbots sont bons pour le diagnostic, mais de nombreux symptômes doivent être analysés individuellement de manière personnalisée. Que se passe-t-il si une personne ne fournit pas le bon contexte au chatbot ? Ou oublie d’inclure des détails importants ou des conditions qu’un vrai médecin en face d’un patient ne manquerait pas?

Inexactitude et Hallucinations

Les chatbots sont des savants universels professionnels, et parfois ils disent des choses erronées avec beaucoup de confiance. Et nous y croyons. Et les utilisateurs qui comptent sur la technologie au quotidien lui font de plus en plus confiance.

Il est difficile d’oublier ce moment – en mai – lorsque Google Gemini a suggéré aux utilisateurs d’ajouter « environ ⅛ de tasse de colle non toxique à la sauce pour lui donner plus de viscosité » à une pizza.

C’était drôle car nous avons pu immédiatement repérer l’hallucination – ce nom élégant pour désigner les réponses absurdes fournies par l’IA. Mais que se passe-t-il si cela concerne un sujet plus complexe, que se passe-t-il si la personne qui lit la réponse de l’IA est effrayée, seule et inquiète pour sa santé?

Même si l’IA s’améliore de mois en mois, la possibilité d’une erreur est toujours présente.

Qui est à blâmer si quelque chose tourne mal ?

Le débat éthique est un sujet brûlant en ce moment. Si le chatbot fournit un diagnostic erroné ou des conseils désastreux, qui est à blâmer ? Les développeurs, le modèle, l’entreprise d’IA, les sources qui ont formé ce modèle ?

Un cas tragique a suscité des inquiétudes il y a quelques semaines après qu’une mère américaine ait accusé l’IA d’être responsable de la mort de son fils de 14 ans et ait intenté un procès contre la startup Character.ai—une plateforme de création de personnages en IA. L’adolescent souffrait de dépression et est devenu obsédé par la technologie. Son avatar, Daenerys Targaryen, a discuté avec lui d’un plan pour se suicider et l’a même encouragé à le faire.

Alors que l’IA a été considérée par le Forum économique mondial comme un outil puissant pour soulager les crises de santé mentale à travers le monde et pour réduire le pourcentage croissant de cas d’anxiété et de dépression, elle peut aussi être dangereuse, en particulier pour les enfants.

Faites-le « À Vos Risques et Périls »

Bien qu’il reste encore à améliorer, j’aime penser que l’IA a un grand potentiel pour réduire les temps d’attente dans le domaine de la santé – tant pour les rendez-vous spécialisés que pour les soins d’urgence – pour accélérer les avancées scientifiques, et pour soutenir les médecins, notamment ceux submergés par des charges de travail excessives et des salaires bas, comme c’est souvent le cas dans les pays d’Amérique latine, en aidant les patients à poser des questions de base à partir de chez eux.

Elle pourrait également contribuer à combler les écarts d’accès aux soins de santé entre différentes classes sociales, ouvrant la voie à une démocratisation de la médecine comme jamais auparavant. Tout cela est désormais à notre portée, à seulement une requête de distance pour toute personne ayant accès à un smartphone.

Cependant, il est crucial de comprendre que nous en sommes encore aux premiers stades et nous devons protéger la population la plus vulnérable. Toute personne choisissant d’utiliser Dr. Chatbot pour améliorer sa santé aujourd’hui doit le faire en ayant une compréhension précise des petites lignes dans les termes et conditions, avec un esprit critique, et avec la conscience que – pour l’instant – ils assument la responsabilité des risques impliqués.