Les médecins doivent utiliser des modèles hébergés ou contrôlés localement. Dans le contexte médical, l’utilisation d’interfaces ouvertes ou commercialement accessibles, appelées API, par exemple dans ChatGPT, n’est autorisée que s’il est explicitement garanti qu’aucune information relevant de la protection des données ne sera divulguée. Indépendamment de l’infrastructure technique, les informations et les données qui ne doivent pas être publiées n’ont pas leur place dans un modèle de langage. La saisie d’informations sensibles, en particulier les données des patients, ne doit avoir lieu que si des garanties techniques et juridiques assurent un traitement exclusivement local ou contrôlé. Les modèles doivent être conformes aux dispositions de la loi suisse sur la protection des données (LPD).

Chaque réponse d’un modèle de langage doit être remise en question de manière critique par les médecins, vérifiée sur le plan technique et, si nécessaire, corrigée ou rejetée. Les réponses des modèles LLM ne constituent pas des informations techniques vérifiées. Même si le langage et les formulations semblent professionnels, ils sont basés sur des probabilités statistiques et non sur des connaissances avérées. Les modèles LLM peuvent aider les médecins dans leur prise de décision, mais ne doivent en aucun cas les remplacer. La responsabilité du diagnostic, du traitement et de la communication incombe au médecin traitant.

Les modèles LLM ont tendance à halluciner des contenus, ce qui signifie qu’ils peuvent en générer et inventer qui ne sont pas basés sur des données ou des faits réels. Cela est particulièrement vrai pour les requêtes floues ou ambiguës. Les médecins ne devraient donc les utiliser que dans les domaines où ils sont capables d’identifier les erreurs, de classer correctement les déclarations et d’évaluer la qualité de la réponse sur le plan médical. Les modèles LLM peuvent alléger la charge administrative des médecins, par exemple dans la structuration de textes libres, la préparation de notes ou l’aide au codage.

Le contenu de la requête (« prompt ») détermine en grande partie la qualité de la réponse. Les médecins doivent utiliser des instructions précises et contextuelles, car celles-ci donnent de meilleurs résultats que les questions générales.

Les médecins doivent documenter leur utilisation des modèles LLM dans un contexte professionnel : quelles tâches ont été effectuées avec le modèle ? Quel rôle a-t-il joué dans le processus décisionnel ? Cette traçabilité est essentielle, tant pour des questions juridiques que pour les patients qui, en principe, dans le cadre de leur droit à l’autodétermination et à l’autonomie, ont le droit d’être informés de l’utilisation d’un modèle LLM.

En vertu de leur devoir de diligence, les médecins sont responsables du diagnostic, même s’ils se sont aidés d’un modèle LLM pour le poser. Une fonction LLM mise à disposition par un prestataire informatique ou intégrée dans un environnement logiciel existant ne garantit pas l’exactitude du contenu. Les déclarations marketing ou les certifications ne doivent pas se substituer à un examen approfondi du contenu. La décision d’utiliser un modèle LLM doit être prise par les médecins uniquement sur la base d’une évaluation approfondie des avantages, des risques et des exigences médicales.

Les modèles LLM sont des outils dont les limites sont connues. Ce ne sont pas des systèmes pensants au sens propre du terme. Tout médecin ayant recours à des modèles LLM doit en faire part ouvertement à ses collègues. Des attentes réalistes permettent d’éviter les conclusions erronées et favorisent une utilisation responsable.

La transformation numérique doit également être écologiquement responsable. Des aspects tels que la consommation d’énergie, les centres de données et les impacts mondiaux doivent être pris en compte.