Ärztinnen und Ärzte sollen lokal gehostete oder kontrollierte Modelle verwenden. Im medizinischen Kontext ist die Nutzung von offen oder kommerziell zugänglichen Schnittstellen, sogenannte APIs, zum Beispiel bei ChatGPT nur dann zulässig, wenn explizit sichergestellt ist, dass keine datenschutzrelevanten Informationen abfliessen. Unabhängig von der technischen Infrastruktur gilt: Informationen und Daten, die nicht veröffentlicht werden dürfen, gehören nicht in ein Sprachmodell. Die Eingabe sensibler Informationen, insbesondere Patientendaten, darf nur erfolgen, wenn technische und rechtliche Garantien eine ausschliesslich lokale oder kontrollierte Verarbeitung sicherstellen. Die Modelle müssen den Vorgaben des Schweizer Datenschutzgesetzes (DSG) entsprechen.

Jede Antwort eines Sprachmodelles muss von Ärztinnen und Ärzten kritisch hinterfragt, fachlich überprüft und falls notwendig korrigiert oder verworfen werden. Antworten von LLMs stellen keine geprüften Fachinformationen dar. Auch wenn die Sprache und Formulierungen professionell erscheint, basieren sie auf statistischen Wahrscheinlichkeiten, nicht auf gesichertem Wissen. LLMs dürfen die ärztliche Entscheidungsfindung unterstützen, aber nie ersetzen. Die Verantwortung für Diagnose, Therapie und Kommunikation bleibt beim behandelnden Arzt beziehungsweise der behandelnden Ärztin.

Grosse Sprachmodelle neigen dazu, Inhalte zu halluzinieren, das bedeutet, dass sie Inhalte erzeugen und erfinden können, welche nicht auf echten Daten oder Fakten basieren. Dies trifft insbesondere bei unscharfen oder mehrdeutigen Eingaben zu. Ärztinnen und Ärzte sollten LLMs daher nur in Bereichen einsetzen, in denen sie inhaltlich befähigt sind, Fehler zu identifizieren, Aussagen korrekt einzuordnen und die Qualität der Antwort fachlich zu beurteilen. Sprachmodelle können Ärztinnen und Ärzte administrativ entlasten – dies zum Beispiel bei der Strukturierung von Freitext, bei der Erstellung von Rohentwürfen oder als Kodierungsunterstützung.

Der Inhalt der Anfrage («Prompt») bestimmt die Qualität der Antwort wesentlich mit. Ärztinnen und Ärzte sollen präzise, kontextbezogene Anweisungen  verwenden, denn diese führen zu besseren Resultaten als allgemeine Fragen.

Wenn Ärztinnen und Ärzte LLMs im professionellen Kontext verwenden, ist eine Dokumentation erforderlich: Welche Aufgaben wurden mit dem Modell ausgeführt? Welche Rolle spielte es im Entscheidungsprozess? Diese Nachvollziehbarkeit ist essenziell, sowohl für Patientinnen und Patienten als auch für rechtliche Fragestellungen. Grundsätzlich haben Patientinnen und Patienten im Rahmen ihres Selbstbestimmungsrechts und der Patientenautonomie das Recht, darüber aufgeklärt zu werden, ob ein LLM eingesetzt wurde.

Die Ärztin oder der Arzt ist im Rahmen der ärztlichen Sorgfaltspflicht für die Diagnosestellung verantwortlich, auch wenn ein LLM als Unterstützung zur Diagnosestellung eingesetzt wird. Die Bereitstellung einer LLM-Funktion durch etablierte Anbieter oder deren Integration in eine bestehende Softwareumgebung garantiert keine inhaltliche Korrektheit. Marketingaussagen oder Zertifizierungen dürfen keine Ersatzhandlung für eine fundierte inhaltliche Prüfung darstellen. Die Entscheidung für den Einsatz eines LLM sollten Ärztinnen und Ärzte ausschliesslich auf einer fundierten Einschätzung des Nutzens, der Risiken und der fachlichen Erfordernisse treffen.

Grosse Sprachmodelle sind Werkzeuge mit bekannten Limitierungen. Sie sind keine denkenden Systeme im eigentlichen Sinn. Wenn Ärztinnen und Ärzte LLMs verwenden, ist dies gegenüber Kolleginnen und Kollegen transparent zu benennen. Eine realistische Erwartungshaltung schützt vor falschen Schlüssen und fördert einen verantwortungsvollen Umgang.

Die digitale Transformation muss auch ökologisch verantwortungsvoll gestaltet werden. Aspekte wie Energieverbrauch, Datenzentren und globalen Auswirkungen sind mitzuberücksichtigen.