Les grands modèles de langage génèrent des énoncés pertinents. Afin de pouvoir évaluer correctement les forces et les faiblesses de ces résultats et les utiliser à bon escient, il est nécessaire de comprendre leur fonctionnement. Nous en expliquons les principaux aspects ci-après.

Prédictions basées sur des tokens
La capacité des grands modèles de langage à générer des textes cohérents et fluides repose sur un principe simple, mais performant : les unités linguistiques individuelles, appelées « tokens », sont prédites sur la base d’analyses statistiques.

Les tokens sont la plus petite unité traitée par un modèle de langage. Ils sont comparables à des syllabes ou à des fragments de mots, selon la langue. Un seul mot peut être découpé en plusieurs tokens (p. ex. « ordinateur » - « ordi » et « nateur »), tandis que les mots courants tels que « et » ou « est » apparaissent généralement sous forme de tokens uniques.

Le modèle ne considère donc pas les mots dans leur ensemble, mais des séquences de ces unités linguistiques. Il est entraîné à prédire, pour une séquence donnée de tokens, quel token est le plus susceptible de suivre ensuite.

Les probabilités plutôt que la signification
Imaginez une phrase qui commencerait par « Le patient présente des signes de ». Un lecteur humain pensera peut-être immédiatement à des termes comme « infection », « fatigue » ou « hypertension ». Un modèle de langage, en revanche, calcule la suite la plus probable en se basant sur des millions de séquences de texte comparables issues de l’entraînement.

Le point essentiel est que le modèle ne « sait » pas ce qu’est une infection. Il ne connaît que les schémas qui apparaissent généralement après ce type de début de phrase et calcule à partir de là un classement des tokens suivants possibles. Le token le plus probable est sélectionné et le processus est répété jusqu’à ce qu’une phrase ou un paragraphe complet soit créé.

Analogie tirée de la médecine : diagnostic différentiel
Voici une comparaison tirée du quotidien médical : lorsqu’un patient se présente au cabinet avec de la fièvre, une toux et une fatigue intense, le médecin établit une liste de diagnostics différentiels probables. Le diagnostic final dépend de ce qui semble le plus probable dans le cas concret, en tenant compte des antécédents du patient et des facteurs contextuels. 

Un modèle de langage fonctionne de manière similaire : il ne compare pas les symptômes aux diagnostics, mais les modèles de mots aux suites de mots. Il crée en quelque sorte une évaluation « linguistique différentielle » de ce qui devrait suivre.

L’entraînement plutôt que les règles
Le modèle ne suit aucune règle fixe de langue ou de logique. Il apprend exclusivement à partir d’exemples, c’est-à-dire à partir de textes déjà existants. Les liens entre les tokens et leur contexte sont pondérés statistiquement. Au cours de la phase d’entraînement, des milliards de tâches de prédiction de ce type sont résolues et les poids du modèle (paramètres) sont ajustés afin de permettre de meilleures prédictions. Plus le modèle est grand (c’est-à-dire plus il comporte de paramètres), plus il est capable de reconnaître les nuances linguistiques ; cela nécessite toutefois une capacité de calcul proportionnellement plus importante.

Ce processus explique pourquoi les grands modèles de langage semblent souvent convaincants, mais peuvent néanmoins produire des contenus erronés ou inventés. En effet, ils ne s’appuient pas sur la vérité ou les faits, mais sur les probabilités des schémas de langage.

Quelles sont les limites des grands modèles de langage ?
Malgré leur capacité à rédiger des textes fluides et souvent impressionnants, les grands modèles de langage présentent des limites fondamentales. Ceux qui souhaitent les comprendre, et en particulier ceux qui les utilisent dans un contexte médical, doivent considérer ces faiblesses non pas comme des exceptions, mais comme des caractéristiques intrinsèques du système.

Hallucinations : quand les modèles inventent des faits
On parle souvent d’« hallucination », l’un des termes les plus marquants lorsqu’il s’agit de grands modèles de langage. Il ne s’agit pas ici d’un phénomène psychologique, mais de la production de contenus qui semblent plausibles, mais qui sont objectivement faux. Par exemple, à la question « Qui a découvert que l’appendice pouvait servir de réservoir de bactéries intestinales utiles ? », un modèle pourrait répondre par : « Le pathologiste suisse Emil Schwaner a publié en 1911 un discours sur la fonction immunologique de l’appendice. »

La réponse semble crédible, mais il n’existe aucun Emil Schwaner ni aucun discours de ce genre. Le modèle a construit un texte fictif, mais statistiquement cohérent, à partir de schémas connus (appendice, immunologie, Suisse, début du XXe siècle). Pour les non-spécialistes, cela est souvent difficile à entrevoir et potentiellement dangereux dans un contexte médical.

Biais : distorsions liées aux données d’entraînement
Comme mentionné précédemment, les modèles de langage apprennent exclusivement à partir de textes existants. Ces textes ne sont toutefois pas neutres, mais reflètent des distorsions sociales, culturelles et linguistiques (biais).

Exemple : si le matériel d’entraînement provient principalement de sources américaines, un modèle peut être amené à utiliser plus fréquemment des termes tels que « primary care physician » ou à classer les tableaux cliniques selon les codes CIM, même si cela est inapproprié ou équivoque dans un contexte suisse.

La situation est encore plus délicate lorsqu’il s’agit de stéréotypes sexistes, culturels ou diagnostiques, qui peuvent être repris et reproduits sans réflexion. Les modèles de langage ne comprennent pas ces distorsions, ils ne font qu’agréger les résultats obtenus à partir des données d’entraînement.

Aucune connaissance du monde ni compréhension
Les modèles de langage ne « savent » pas qu’un rein est un organe ou que les antibiotiques ne sont pas efficaces contre les virus. Ils simulent des connaissances en générant des textes qui semblent basés sur des faits. Cependant, le modèle ne connaît ni les relations de cause à effet ni les concepts sémantiques, il traite uniquement les fréquences statistiques de séquences de mots.

Même des questions simples comme « Pourquoi la pénicilline n’est-elle pas efficace contre la grippe ? » peuvent donner lieu à des réponses absurdes. Non pas par malveillance, mais parce que le modèle ne dispose d’aucun concept de pharmacodynamie ou de biologie virale. Il ne peut pas assimiler de tels liens, mais seulement les imiter.

Conséquences pour l’utilisation médicale
Ces limites montrent clairement que les grands modèles de langage ne sont pas des systèmes fondés sur les connaissances, mais des machines linguistiques probabilistes. Les utilisateurs doivent examiner leurs résultats avec esprit critique, de la même manière qu’on ne fait pas confiance à un nouvel outil médical sans l’avoir validé au préalable.

Dans le meilleur des cas, un modèle de langage est un assistant bien rodé qui permet d’alléger les tâches routinières. Dans le pire des cas, il peut générer des informations erronées qui seront considérées comme fiables par des personnes étrangères au domaine ou des utilisateurs peu critiques.

Les grands modèles de langage ont pour but de décharger les médecins, et non de les remplacer. Malgré leurs faiblesses, ils ouvrent également de nouvelles possibilités dans le quotidien médical. Ils peuvent notamment apporter leur aide dans les domaines liés au langage, à la structuration et à la documentation. En effet, c’est précisément dans ces domaines que la charge de travail des médecins est souvent importante, répétitive et non centrée sur le patient.

Assistance pour la documentation médicale
L’un des principaux domaines d’application du LLM est la génération de textes médicaux à partir de mots-clés ou par reconnaissance vocale. De nombreux grands modèles de langage sont capables de générer des propositions de texte lisibles à partir de notes succinctes, par exemple pour des courriers médicaux, des rapports de sortie ou des résumés de consultation.

Exemple :
Entrée : « Pat. 67 a., diabète type 2, HbA1c 8,1 %, depuis 2 sem. vertiges, hypotension orthostatique, traitement metformine + ramipril. »

Sortie : « Patient âgé de 67 ans, atteint d’un diabète sucré de type 2 connu (HbA1c 8,1 %), se plaint depuis deux semaines de vertiges, en particulier lorsqu’il se lève. Il présente une hypotension orthostatique. Médicaments actuels : metformine et ramipril. »

Ces suggestions de texte peuvent permettre de gagner du temps, d’améliorer la qualité linguistique et de rendre le travail quotidien plus efficace, à condition que le texte soit vérifié et validé par le médecin. 

Structuration de données non structurées
Un autre domaine d’application est la structuration automatique de textes libres. Les grands modèles de langage peuvent filtrer les informations essentielles contenues dans les notes d’historique ou les anamnèses, telles que les diagnostics, les symptômes, les résultats de laboratoire ou les médicaments, et les transférer dans des champs structurés. 

Cela est particulièrement intéressant dans les domaines de la recherche, de l’assurance qualité ou du codage médical. Pour cela, il faut toutefois que le modèle ait été entraîné et validé pour le domaine d’application concret, idéalement avec des données locales conformes à la protection des données.

Amélioration de la communication avec les patient-e-s
Les LLM se révèlent également utiles pour simplifier le jargon médical. Ils peuvent retranscrire des résultats médicaux dans un langage compréhensible pour les profanes. Cela permettrait p. ex. de créer et de personnaliser automatiquement des documents d’information destinés aux patient-e-s.

Exemple :
Texte spécialisé :  « L’échocardiographie a révélé une légère hypertrophie ventriculaire gauche avec fraction d’éjection préservée. » 

Simplification : « L’examen cardiaque montre un léger épaississement du ventricule gauche. La capacité de pompage reste toutefois bonne. »

Exemples d’application réalistes tirés de la pratique
De grands modèles de langage sont déjà testés de différentes manières dans le cadre de projets pilotes. Nous décrivons ici quelques scénarios d’utilisation réalistes. Le chapitre 5 « Exemples d’applications pratiques dans le secteur de la santé » présente deux applications concrètes déjà utilisées.

• Assistance pour les courriers médicaux : suggestions de texte basées sur des notes concises, qui sont ensuite vérifiées et, le cas échéant, adaptées par le personnel médical.
• Reconnaissance vocale et structuration : combinaison d’un logiciel de reconnaissance vocale avec de grands modèles de langage pour la documentation structurée des entretiens avec les patient-e-s.
• Résumé du dossier de santé : génération d’un bref aperçu pour les transmissions, p. ex. dans les services d’urgence ou lors de transferts. 
• Soutien dans les tâches administratives : formulation de prises de position, de rapports d’assurance ou de textes médicaux courts.
• Utilisation didactique : dans la formation médicale prégraduée, pour l’élaboration de vignettes cliniques ou la simulation d’entretiens avec des patient-e-s.

Il est important de noter que ces applications sont pour la plupart encore en phase de test, qu’elles sont supervisées par des spécialistes et qu’elles ne remplacent en aucun cas un avis médical. Elles montrent toutefois que les modèles de langage révèlent tout leur intérêt lorsqu’il s’agit d’automatiser des tâches répétitives basées sur le langage, et c’est précisément là que réside l’une de leurs plus grandes forces. 

Pourquoi les grands modèles de langage hallucinent-ils ? Les LLM comme ChatGPT génèrent des textes qui semblent souvent étonnamment compétents et cohérents. Ils répondent correctement à des questions médicales, utilisent un jargon précis et reconnaissent même des contextes cliniques. Tout cela donne l’impression qu’ils « savent » de quoi ils parlent. Et pourtant, ces systèmes n’ont aucune conscience ni compréhension réelle du contenu qu’ils génèrent. En y regardant de plus près, on comprend pourquoi il ne s’agit pas d’une contradiction, mais d’un aspect central de leur fonctionnement.

Aucune conscience ni compréhension
Lorsque les êtres humains utilisent le langage, ils le font en fonction du sens, du contexte et de leur expérience. Nous comprenons la signification d’un mot, pouvons évaluer sa pertinence et, en tant que médecins, le replacer dans un contexte clinique. Un modèle de langage, en revanche, ne connaît pas la signification. Il traite uniquement des modèles de texte, calcule les probabilités pour l’unité linguistique suivante (token) sans aucune profondeur sémantique. Il ne sait pas ce qu’est l’hypotension ou pourquoi la pénicilline agit contre les bactéries. Il n’a pas de modèle de monde, de mémoire, d’intention ; il réagit simplement aux entrées avec des sorties statistiquement typiques.

Pourquoi de nombreuses réponses sont-elles néanmoins correctes ?
En réalité, les modèles de langage fournissent étonnamment souvent des réponses correctes, même dans le domaine médical. Cela s’explique par trois facteurs principaux :

1. Connaissance statistique du monde : des énoncés fréquents, clairement formulés et médicalement corrects, tels que « le diabète sucré entraîne une augmentation du taux d’HbA1c », apparaissent si souvent dans les données d’entraînement de haute qualité que le modèle les reproduit de manière fiable. On parle alors de connaissances implicites et probabilistes : elles existent, mais ne peuvent être consciemment consultées.
2. Optimisation par le feedback humain (RLHF) : après leur entraînement initial, les modèles comme ChatGPT sont affinés grâce aux commentaires des utilisateurs. Ils apprennent ainsi à privilégier les réponses utiles, véridiques et courtoises, ce qui augmente considérablement leur fiabilité dans la pratique.
3. Nombreuses questions standard de faible complexité : pour les questions médicales fréquentes et claires, p. ex. « Que signifie un taux élevé de CRP ? », il suffit de répéter des modèles de texte éprouvés, sans qu’une véritable compréhension soit nécessaire. 

La combinaison de ces facteurs fait que les modèles de langage semblent étonnamment compétents, mais sont en réalité des systèmes de reproduction de schémas bien entraînés sur le plan linguistique. 

Pourquoi les hallucinations persistent-elles ?
Le problème se pose dans les cas suivants :

• il y avait peu de matériel d’entraînement disponible,
• les faits sont inconnus ou controversés,
• une indication concrète des sources est attendue.

Dans de tels cas, les modèles ont tendance à générer des énoncés plausibles, mais inventés. Par exemple : « L’étude de Mèller et al. (2019) publiée dans le Journal of Clinical Neurology a montré que... ». Cet énoncé semble correct, il contient le nom de l’auteur, l’année et le titre de la revue ; mais il est complètement fantaisiste, car le modèle n’a pas consulté de source réelle, mais a imité un style de citation typique. Le modèle n’est pas en mesure de reconnaître qu’il génère des informations erronées, car il n’a pas de conscience métacognitive. Il ne sait pas qu’il « ment ». Il ne connaît que la forme, pas le contenu.

Conséquence pour la pratique médicale
​​​​​​​Il serait erroné de supposer que les grands modèles de langage sont systématiquement incompétents. Mais il serait tout aussi erroné de leur attribuer une expertise. Les LLM peuvent générer des énoncés corrects sans savoir qu’ils sont corrects, et ils peuvent générer des énoncés incorrects sans se rendre compte qu’ils sont incorrects. C’est pourquoi, dans le contexte médical, la règle fondamentale reste la suivante : toute information générée par une machine doit être examinée de manière critique. Les grands modèles de langage sont des outils, pas des sources de connaissances à proprement parler. Ils facilitent les tâches routinières et la formulation, mais les décisions responsables restent exclusivement du ressort du personnel médical. 

Les modèles de langage sont basés sur des modèles de texte appris, et non sur une prétention à la vérité ou la représentativité. Les données utilisées pour leur entraînement proviennent en grande partie de sources accessibles au public, telles que des articles scientifiques, des sites web ou des forums. Cependant, ces sources ne sont pas exemptes de biais. Elles reflètent souvent la réalité des contextes dominants et sous-représentent certaines perspectives ou certains groupes.

Dans le domaine des soins médicaux, cela peut avoir de graves conséquences, en particulier lorsque les modèles de langage sont utilisés pour aider à la prise de décision ou à la communication avec les patient-e-s.

Là où les biais deviennent perceptibles

1. Différences spécifiques au sexe dans la description des symptômes : de nombreux textes et études médicaux se concentrent sur les cas masculins, p. ex. dans le domaine des maladies cardiovasculaires. Un modèle de langage qui s’appuie sur ces textes pourrait être moins fiable pour reproduire les formes typiques de présentation chez les femmes (p. ex. des symptômes diffus en cas d’infarctus du myocarde). 
2. Pathologies sous-représentées : dans le cas de maladies rares, d’effets secondaires rares ou de symptômes liés à l’âge, les données d’entraînement manquent souvent de diversité. Les modèles de langage ont tendance à privilégier les diagnostics plus fréquents (et donc « plus évidents sur le plan linguistique »), même si, dans le cas concret, une pathologie plus rare serait plus probable.
3. Stigmatisation par le langage : les sources non médicales contiennent souvent des descriptions de maladies mentales ou de douleurs chroniques imprécises ou porteuses d’une charge émotionnelle. Lorsque de tels textes sont intégrés à l’entraînement, il peut arriver que les grands modèles de langage reprennent des formulations problématiques ou peu sensibles, p. ex. dans les documents d’information ou les courriers destinés aux patient-e-s. 

Pertinence clinique
Dans tous les cas mentionnés, le biais n’entraîne pas nécessairement des erreurs manifestes, mais plutôt des déséquilibres systématiques. Certains symptômes sont pris plus « au sérieux » sur le plan linguistique, tandis que d’autres sont banalisés. Les maladies rares ou les évolutions complexes sont moins souvent représentées correctement. Et certains groupes de patient-e-s (p. ex. les personnes âgées, les personnes souffrant de multimorbidités complexes) pourraient être moins bien représentés sur le plan linguistique. Cela peut avoir un impact sur la qualité de la documentation ou de la communication. 

Qu’est-ce que cela signifie dans la pratique ?
Les biais dans les modèles de langage ne sont pas une exception, mais un risque structurel. Ils ne sont pas intentionnels, mais résultent de l’interaction entre la disponibilité des données, leur pondération et l’architecture du modèle. Dans le domaine médical, cela suppose :

• un questionnement critique des textes suggérés
• la validation du contenu par des professionnels de la santé
• une transparence sur le domaine d’application du modèle
• une formation à la gestion des biais liés au modèle, le cas échéant.

Il convient donc de retenir qu’un modèle de langage ne « juge » pas, mais il peut renforcer les schémas systémiques existants si ceux-ci sont intégrés dans les données d’entraînement. En médecine notamment, où les nuances linguistiques ont une importance clinique, il est essentiel de connaître ces effets et d’en tenir compte lors de l’intégration de nouvelles technologies. 

Le débat sur l’intelligence artificielle dans le domaine de la santé est souvent marqué par deux extrêmes. D’un côté, il y a l’espoir d’efficacité, de précision et d’allègement de la charge de travail. De l’autre, les craintes de mauvaises décisions, d’opacité, voire de discrimination. Les grands modèles de langage soulèvent notamment une question nuancée :

Ces systèmes reproduisent-ils des schémas problématiques ou les mettent-ils simplement en évidence ?
Les grands modèles de langage peuvent reproduire le racisme, le sexisme ou d’autres distorsions dans le langage et les soins. Mais ce n’est pas parce qu’ils sont « malveillants » ou capables de jugement moral. Ils sont plutôt le produit de leur environnement d’apprentissage. Ils apprennent à partir de textes issus de systèmes sociaux et médicaux réels et adoptent ainsi des normes, des hiérarchies et des omissions implicites. 

Le modèle ne fait pas la distinction entre

• l’information objective,
• les préjugés culturels ou
• les déséquilibres historiques.

Il ne fait que reproduire ce qui a été dit ou écrit suffisamment souvent. Et si, par exemple, certains symptômes ou groupes de patient-e-s apparaissent moins fréquemment dans la littérature ou la documentation médicale, le modèle « désapprend » ces contextes sans s’en rendre compte.

Exemple : si un modèle est entraîné à générer des courriers médicaux, mais que les données d’entraînement ne contiennent guère de représentations différenciées des facteurs psychosociaux, ces aspects n’apparaîtront pas non plus dans les textes générés, même s’ils étaient cliniquement pertinents.

Mise en évidence des faiblesses systématiques
Et c’est là que réside peut-être la contribution la plus importante, mais souvent sous-estimée, de l’IA : ce qu’un modèle de langage ignore ou déforme systématiquement est souvent précisément ce qui fait défaut dans le système réel.

Les grands modèles de langage peuvent ainsi refléter les déséquilibres existants. S’ils stéréotypent certains symptômes, occultent des évolutions complexes ou « négligent » certains groupes de patient-e-s, cela n’est pas dû à l’IA, mais aux données qui lui ont été fournies, ou plutôt à la manière dont les utilisateurs du système documentent, communiquent et hiérarchisent les données.

Ces caractéristiques peuvent être utiles dans la pratique, car elles renvoient aux questions centrales concernant les lacunes de contenu d’un LLM :

• Quelles pathologies font défaut dans les sorties du modèle ?
• Quelles réalités ne sont pas représentées sur le plan linguistique ?
• Quelles normes médicales sont automatiquement présupposées ?

C’est précisément dans le cadre de l’amélioration de la qualité, de la recherche ou de la santé publique que l’IA offre ici un potentiel diagnostique : non pas pour détecter les problèmes des patient-e-s, mais pour identifier les lacunes dans les soins. 

Responsabilité : concevoir plutôt que choisir
​​​​​​​L’IA n’est ni neutre ni malveillante, elle est aussi biaisée que les systèmes dont elle est issue. La responsabilité n’incombe donc pas à la technologie elle-même, mais aux personnes qui la développent, l’entraînent, l’utilisent et la réglementent. Lorsqu’un grand modèle de langage reproduit un déséquilibre, la question n’est pas seulement de savoir ce qui ne va pas avec l’IA, mais aussi ce que cela révèle sur nos données, notre documentation et nos routines institutionnelles. En ce sens, l’IA peut contribuer non seulement à l’automatisation, mais aussi à la réflexion et à l’amélioration, à condition qu’elle soit accompagnée de manière transparente, critique et interdisciplinaire. 

Lorsque de nouvelles technologies sont introduites dans le secteur de la santé, la question suivante se pose souvent : « Le système est-il suffisamment performant ? ». Cette question semble simple, mais elle est trompeuse. En effet, elle dépend essentiellement de la manière dont nous évaluons le système. Et c’est précisément là que réside le point faible de nombreuses évaluations techniques. Évaluons-nous l’IA par rapport à un cas idéal ou à la réalité quotidienne du travail clinique ?

Le cas idéal : reposé, empathique, irréprochable
De nombreux détracteurs comparent les systèmes d’IA à un médecin idéal ou à un professionnel de la santé parfait, à la pointe des connaissances techniques, toujours concentré, empathique dans ses conversations, efficace dans la documentation et disposant de suffisamment de temps pour chaque décision. Aucune machine ne peut rivaliser avec un tel idéal, et presque aucun être humain dans la vie réelle. Conséquence : l’IA est rapidement qualifiée d’« insuffisante », de « peu fiable » ou de « pas encore mature » parce qu’elle n’est pas parfaite. Mais c’est précisément cette perspective qui pose problème. Car elle occulte les contraintes structurelles qui caractérisent le quotidien médical.

La réalité : multitâche, contraintes de temps, charge administrative
Ceux qui connaissent le quotidien des cliniques ou des cabinets médicaux le savent :

• La documentation prend plus de temps que l’entretien.
• Le temps pour la relecture, la précision linguistique ou les formulations adaptées aux patient-e-s est souvent compté.
• La fatigue, l’intensification du travail et les interruptions font partie du quotidien.

Dans ce contexte, il n’est pas judicieux de comparer un système d’IA à un médecin idéal, mais plutôt à une alternative réaliste.

Que se serait-il passé s’il n’y avait pas eu d’aide de l’IA pour la documentation ou la formulation ?

• Le courrier médical aurait-il été rédigé avec autant de soin à la fin du service ?
• Aurait-on encore documenté l’anamnèse psychosociale ou en serait-on resté au code des symptômes principaux ? 
• Quelqu’un aurait-il pris le temps de rédiger un courrier médical de manière compréhensible ?

C’est précisément pour ce genre de tâches qu’un système d’IA ne peut pas assumer la responsabilité médicale, mais peut très bien garantir la qualité, surmonter les barrières linguistiques ou fournir une aide à la formulation.

La bonne question comparative
​​​​​​​La question centrale n’est donc pas : « L’IA est-elle meilleure qu’un médecin expérimenté au sommet de sa forme ? » Mais plutôt : « L’IA est-elle meilleure que la réalité professionnelle actuelle des médecins, qui travaillent sous pression, sont fatigués et manquent de temps, et dans quels domaines précis l’IA peut-elle leur apporter un soutien utile ? » La perspective abordée par cette question n’est pas défensive, elle est pragmatique et réaliste. Elle reconnaît en effet que l’IA n’est pas une solution idéale, mais qu’elle peut être plus efficace que les spécialistes dans certains domaines, notamment lorsque ceux-ci manquent de temps, de concentration ou de ressources.

Une évaluation équitable de l’IA dans le secteur de la santé nécessite une transparence quant à la base de comparaison. Ceux qui exigent la perfection ne seront jamais satisfaits. Ceux qui sont conscients de la réalité reconnaîtront l’opportunité d’un allègement. Cela ne signifie pas que nous devons être dépourvus d’esprit critique, bien au contraire : c’est précisément parce que la réalité clinique est difficile qu’il faut des normes éthiques et techniques particulièrement claires lorsque de nouvelles technologies sont intégrées. Mais celles-ci doivent s’orienter vers la pratique, et non vers des idéaux qui peuvent difficilement être mis en œuvre dans le système.

Dans le domaine de la santé, aucune technologie n’est isolée. Chaque décision, qu’elle soit prise par un médecin ou à l’aide d’un algorithme, doit être traçable, explicable et vérifiable. C’est précisément pour cette raison que la traçabilité est un critère essentiel pour une utilisation judicieuse de l’intelligence artificielle en médecine.

Pourquoi la traçabilité est-elle si importante ? Dans la pratique médicale, il ne s’agit pas seulement d’obtenir le « bon » résultat, mais aussi d’expliquer comment ce résultat a été obtenu. Cela concerne aussi bien

• la documentation des décisions cliniques (p. ex. pourquoi ce diagnostic a-t-il été posé ?)
• que la responsabilité envers les patient-e-s, les tiers ou les autorités de surveillance. 

Un système d’IA, en particulier un modèle de langage, ne doit donc pas être utilisé comme une « boîte noire » dont les suggestions ou les formulations sont inexplicables. La transparence de la logique système est indispensable, en particulier dans les situations où la responsabilité, la confiance ou la valeur éthique sont en jeu. 

Traçabilité dans la loi européenne sur l’IA
Cette exigence n’est pas seulement d’ordre éthique, elle est également inscrite dans la loi européenne sur l’intelligence artificielle. La nouvelle réglementation européenne pour une intelligence artificielle fiable, classe généralement les systèmes utilisés dans le domaine médical comme des « applications à haut risque ». Ils sont donc soumis à des exigences strictes, notamment en ce qui concerne :

• la transparence sur le fonctionnement et la base de données
• la traçabilité des sorties
• la possibilité de contrôle humain
• la consignation des décisions.

Un système qui génère des textes cliniques ou fournit des informations structurées doit être en mesure d’expliquer comment ces contenus sont créés, même s’ils ne servent que de suggestion. À défaut, cela risque non seulement d’entraîner une insécurité juridique, mais aussi une perte de confiance chez les patient-e-s et les collègues.

Le dilemme des grands modèles de langage
C’est pourquoi l’utilisation des LLM pose un défi majeur à cet égard, car les LLM :

• ne fonctionnent pas sur la base de règles, mais de manière probabiliste
• ne stockent pas de sources, mais « savent » ou reproduisent uniquement ce qui a été dit fréquemment
• ne peuvent pas expliquer d’eux-mêmes pourquoi ils ont proposé un certain texte.

Concrètement, cela signifie qu’un modèle de langage performant peut rédiger un courrier médical convaincant, mais ne peut ni citer les sources utilisées ni justifier le choix d’une formulation particulière. Cette incapacité à fournir des explications est en contradiction directe avec les exigences de la chaîne de responsabilité clinique. 

Qu’est-ce que cela signifie pour l’utilisation de LLM dans le secteur de la santé ?
La traçabilité ne signifie pas qu’un système doit être capable de justifier chaque décision comme le ferait un être humain. Mais des mesures techniques, d’organisation et de communication sont nécessaires pour rendre l’utilisation de LLM compréhensible :

• Identification des contenus générés par la machine (p. ex. « Cette proposition de texte est basée sur un modèle de langage. Veuillez consulter un médecin »).
• Suivi des versions et des modifications (Quelles sont les propositions faites par les systèmes d’IA ? Qu’est-ce qui a été repris ou modifié par l’humain ?)
• Limitation du domaine d’application (p. ex., pas d’utilisation dans des contextes hautement sensibles tels que les diagnostics ou les documents d’information)
• Interfaces transparentes (p. ex. par des notes explicatives dans l’interface : « Ce terme a été proposé sur la base d’une utilisation fréquente dans des textes spécialisés »). 

La traçabilité n’est pas une question technique secondaire, mais un pilier fondamental de la confiance dans le travail médical et son exercice responsable. La traçabilité détermine si une technologie peut réellement être intégrée ou si elle présente un risque juridique et éthique à long terme.

Quiconque souhaite introduire de grands modèles de langage dans le secteur de la santé doit non seulement tenir compte des performances et de l’efficacité, mais surtout se poser la question suivante : suis-je en mesure de comprendre ce que fait ce système et de le défendre ?

C’est la seule façon d’assumer de manière professionnelle et juridiquement sûre la responsabilité du travail médical assisté par des machines.

Un changement de perspective dans la gestion de l’information médicale
Pendant des décennies, la numérisation du secteur de la santé a été marquée par un objectif clair : les données médicales doivent être structurées, standardisées et exploitables par machine. Les diagnostics sont codés, les résultats de laboratoire sont convertis en formats normalisés, les plans de médication sont modélisés selon les normes HL7-FHIR. Cette structuration sert à la comparabilité, à la facturation, à la recherche et à l’intégration des systèmes ; elle constitue le socle de l’informatique de santé moderne.

Mais elle a aussi un prix :

• Temps passé à la saisie des données
• Perte des nuances linguistiques
• Absence de représentation des incertitudes, des nuances ou des aspects individuels du traitement.

La documentation médicale montre clairement que la plupart des connaissances cliniques ne se trouvent pas dans des champs structurés, mais dans du texte libre.

Le problème du texte libre
Les textes libres, tels que les notes d’historique, les anamnèses ou les rapports de consultation, contiennent de précieuses informations. Ils reflètent les évaluations cliniques, les connaissances contextuelles, les relations et les incertitudes. Mais jusqu’à présent, ils étaient difficilement exploitables par les systèmes informatiques. Ils étaient considérés comme une « boîte noire », utile pour les humains, mais pas pour les machines.

Conséquence :

• Seules les informations structurées étaient intégrées dans l’assurance qualité, la recherche ou les aides à la décision. 
• Le texte libre était archivé, mais pas utilisé. 
• Les connaissances pertinentes restaient souvent documentées, mais invisibles d’un point de vue algorithmique. 

Les grands modèles de langage comme pont vers le langage non structuré
Les grands modèles de langage changent radicalement la donne. Ils sont capables

• d’analyser le langage médical non structuré,
• d’en extraire les contenus pertinents,
• de les convertir si nécessaire en formats structurés,
• ou, inversement, de traduire des données structurées en contexte narratif.

Exemples :

• Un grand modèle de langage reconnaît dans le texte libre un diagnostic secondaire qui n’est pas explicitement codé.
• Il peut extraire les principaux facteurs de risque d’un texte d’anamnèse.
• Il est capable de produire un courrier médical compréhensible à partir de résultats de laboratoire et de mots clés.

Particulièrement remarquable : les grands modèles de langage reconnaissent également les incertitudes, les relations et les nuances linguistiques que les systèmes classiques basés sur des règles ignorent. Cela ouvre de nouvelles possibilités, p. ex. pour :

• l’aide à la décision clinique basée sur le langage réel,
• l’analyse rétrospective des données et la recherche avec texte libre,
• la communication centrée sur le patient grâce à des contenus linguistiquement adaptés.

Changement de paradigme : le langage comme source de données
​​​​​​​Jusqu’à présent, la structure était le Saint Graal. Il apparaît désormais que le langage n’est pas le problème, mais la solution. Grâce à de grands modèles de langage, le langage naturel devient pour la première fois exploitable par les machines sans avoir à le compresser dans des champs et des codages fastidieux. Cela ne signifie pas la fin des données structurées, mais un élargissement de la vision de ce qui peut être documenté et utilisé.

Les grands modèles de langage peuvent établir un pont entre le langage humain et le traitement automatique. Ils ouvrent de nouvelles voies pour rendre les contenus médicaux non structurés accessibles, utilisables et contextuels sans détruire leur complexité. Dans un système qui, jusqu’à présent, dépendait de la représentation de la réalité clinique sous forme de tableaux, cela constitue une révolution silencieuse.