Autor - Christopher Galli, Experte Digitalisierung FMH

Le débat sur l’utilisation de grands modèles de langage dans le secteur de la santé devient de plus en plus concret. Ce n’est pas tant une révolution technologique soudaine qui en est à l’origine, mais plutôt le fait que les systèmes ont franchi un seuil en termes de performances et d’accessibilité, ce qui rend désormais leur utilisation productive réaliste. Ce qui semblait expérimental il y a encore quelques années fait aujourd’hui son entrée dans les premiers processus cliniques, de l’allègement administratif à l’extraction de faits médicaux en passant par le codage semi-automatisé.

On pourrait facilement avoir l’impression que nous sommes à l’aube d’un changement de paradigme dans le traitement des informations médicales. Dans le même temps, de plus en plus de voix s’élèvent pour appeler à une réflexion critique. Non pas par scepticisme envers le progrès, mais par conscience que derrière l’intelligence apparente de ces modèles se cache une logique très différente de celle des systèmes numériques existants.

Les modèles de langage ne sont pas des systèmes savants – ils reproduisent des probabilités
Une idée fausse très répandue consiste à considérer les grands modèles de langage comme des « systèmes fondés sur les connaissances ». Or, ils ne disposent d’aucune compréhension conceptuelle, d’aucun modèle du monde, d’aucune logique au sens classique du terme. Ils sont basés sur des modèles de langage purement statistiques dont la tâche est de prédire la prochaine unité linguistique la plus probable (token) dans une séquence donnée, en se basant sur des probabilités dérivées de milliards d’exemples de textes.

David Krueger, chercheur en intelligence artificielle à l’université de Cambridge, résume cela avec précision dans une interview accordée à « Machine Learning Street Talk »¹⁴  : « LLMs give answers, but they don’t reason. They don’t explain. They don’t even know what they’re saying – they simply predict what someone in their training data would plausibly say. ». Une déclaration ou une justification supposée d’un modèle LLM ne constitue pas une conclusion à proprement parler, mais simplement le prolongement statistique de schémas linguistiques observés précédemment dans des contextes similaires¹⁵.

Cette absence de structure épistémique, c’est-à-dire l’absence de séparation consciente entre connaissance, opinion, incertitude ou déduction logique, les distingue fondamentalement des systèmes experts traditionnels ou des arbres de décision médicaux basés sur des règles. Un grand modèle de langage ne formule pas d’hypothèses, ne les vérifie pas et n’argumente pas. Il calcule des probabilités à partir de séquences de mots. Le résultat peut sembler plausible, mais il masque un vide épistémologique, une caractéristique qui ne doit pas être sous-estimée, en particulier dans le domaine médical.

Un exemple frappant est le biais systématique des indications horaires dans les générateurs d’images : lorsqu’on demande à un système d’IA quelle heure il est sur une horloge dans une image, la réponse est souvent « 10h10 ». Ce n’est pas parce que c’est l’heure indiquée par l’horloge, mais parce que la grande majorité des images d’entraînement sont des photos publicitaires représentant cette heure. Des mécanismes similaires sont également à l’œuvre dans les modèles textuels. Ils reproduisent les schémas dominants de leurs données d’entraînement, qu’ils soient corrects, actuels ou pertinents. Cela génère des récits sur-représentés, des recommandations médicales obsolètes, voire des informations erronées qui semblent techniquement correctes simplement parce qu’elles sont cohérentes sur le plan linguistique et statistiquement plausibles.

Pression technologique et fausse sécurité
L’intégration croissante de l’IA dans les logiciels pour cabinets médicaux entraîne un nouveau type de risque : l’impression de sécurité due à la domination du marché. Les fonctions fournies par les grands fournisseurs et présentées comme « intégrées », « certifiées » ou « testées » donnent faussement l’impression qu’elles sont également fiables en termes de contenu. Or, quelle que soit la stabilité technique d’un système ou le nombre d’entités qu’il utilise, son fonctionnement reste probabiliste. Un modèle de langage n’est pas une encyclopédie de faits, mais un automate probabiliste.

Par conséquent, toute utilisation d’un grand modèle de langage doit être traitée comme si elle avait un impact potentiel vers l’extérieur, que les données soient traitées localement ou transmises à d’autres fournisseurs via une API. La règle pragmatique est la suivante : si je ne rends pas cette entrée publique, je ne dois pas non plus la saisir dans un modèle de langage. La protection des données ne commence pas avec la déclaration de confidentialité d’un fournisseur, mais avec une évaluation consciente des risques par l’utilisateur.

Utilisation uniquement par des professionnels – dans des contextes familiers
Les modèles de langage génèrent des contenus très convaincants sur le plan linguistique, mais qui peuvent être erronés ou trompeurs. Ces textes sont difficilement identifiables comme problématiques pour les non-spécialistes. Par conséquent, les grands modèles de langage ne devraient être utilisés dans un contexte professionnel que lorsque l’utilisateur dispose lui-même de connaissances professionnelles suffisantes pour identifier et classer les erreurs. Quiconque génère des textes médicaux sans avoir la capacité d’en vérifier le contenu de manière critique prend un risque incalculable, quelle que soit la qualité de l’entraînement du modèle. La frontière entre une aide utile et une automatisation dangereuse ne se situe pas au niveau des capacités techniques, mais au niveau de la responsabilité humaine.

Ne pas avoir peur, mais rester critique
Malgré ces risques, il n’y a pas lieu de s’inquiéter outre mesure. Les grands modèles de langage ne sont ni une menace ni une solution miracle, ce sont des outils. Et comme tout outil, seule son utilisation détermine son utilité. Quiconque travaille avec bon sens, expertise et une compréhension claire des limites systémiques peut utiliser les grands modèles de langage de manière productive et sûre. Le véritable danger ne réside pas dans le modèle, mais dans son utilisation irréfléchie, en particulier lorsque la pression économique, le manque de temps ou l’euphorie technologique prennent le pas sur la pensée critique.