Face à des situations critiques, comme une patiente qui s’étouffe ou un risque suicidaire exprimé en ligne, la question de la confiance envers les intelligences artificielles (IA) médicales se pose avec acuité. Les récentes analyses mettent en lumière les défis que ces outils rencontrent, notamment en matière de rapidité et d’adéquation des réponses fournies dans des contextes d’urgence.
EN BREF
- Les IA médicales montrent des limites dans l’identification des urgences vitales.
- L’OMS recommande une supervision humaine lors de l’utilisation de ces outils.
- En cas de détresse, il est essentiel de contacter immédiatement les services d’urgence.
Les grands modèles de langage, intégrés dans certains outils de santé, ont prouvé leur capacité à fournir des réponses médicales structurées et pédagogiques. Une étude publiée dans JAMA Network Open a révélé que les réponses générées par IA peuvent parfois être jugées plus détaillées que celles des professionnels dans des situations normales. Toutefois, ces performances s’effondrent face aux cas d’urgence, où les symptômes peuvent être graves, comme la détresse respiratoire ou des idées suicidaires.
Les chercheurs soulignent que l’IA peut parfois avoir du mal à reconnaître l’urgence vitale. Par exemple, une étude diffusée par The BMJ a examiné l’efficacité des chatbots médicaux dans des scénarios critiques. Bien que l’IA identifie souvent le problème, elle ne parvient pas toujours à formuler une recommandation d’action claire, ce qui peut retarder une prise en charge nécessaire.
Le ton utilisé par ces intelligences artificielles est également un sujet de préoccupation. Conçues pour être polies et rassurantes, ces IA peuvent adopter un excès de prudence en situation critique, ce qui peut nuire à la rapidité de la réponse. Cette ambiguïté pourrait avoir des conséquences graves dans des moments où chaque seconde compte.
En 2023, l’Organisation mondiale de la santé (OMS) a émis des recommandations précises sur l’utilisation de l’IA en santé. Elle insiste sur l’importance d’un encadrement strict et d’une validation clinique rigoureuse, en particulier lorsque des décisions vitales sont prises. L’OMS rappelle que l’IA doit être considérée comme un outil d’assistance, jamais comme un substitut à l’expertise médicale, particulièrement en cas d’urgence.
Il est crucial de comprendre que les IA médicales fonctionnent à partir de données textuelles et probabilistes. Elles n’ont pas la capacité d’évaluer le contexte physique d’un patient en temps réel : elles ne peuvent ni examiner ni mesurer, et leur approche est souvent empreinte de prudence afin de minimiser les risques juridiques. Cela peut, dans certains cas, mener à des recommandations qui manquent d’urgence.
En dehors des situations critiques, ces outils peuvent être d’une grande utilité. Ils peuvent aider à mieux comprendre des symptômes, préparer une consultation ou fournir des informations générales. Cependant, en cas de détresse respiratoire, de douleur intense, de perte de connaissance ou de risque suicidaire, la règle reste claire : il est impératif de contacter immédiatement les services d’urgence ou un professionnel de santé.
Les progrès rapides de l’IA médicale sont indéniables, mais il est primordial de reconnaître qu’elle ne remplace pas encore le discernement humain, surtout dans les moments critiques. La confiance envers ces technologies doit donc être tempérée par une compréhension claire de leurs limites et de leur rôle dans la prise en charge médicale.
