Autor - Christopher Galli, Experte Digitalisierung FMH

Generative künstliche Intelligenz ist kein neues Konzept, doch mit der Weiterentwicklung grosser Sprachmodelle hat sie in den letzten Jahren erheblich an Bedeutung gewonnen. Während frühere generative Ansätze wie Variational Autoencoders (VAE) oder Generative Adversarial Networks (GAN) bereits in spezialisierten Bereichen Anwendung fanden, haben neuere Modelle wie ChatGPT die generative KI einem breiten Publikum zugänglich gemacht und ihre Einsatzmöglichkeiten erweitert.

Kaum eine andere Internettechnologie hat in jüngster Zeit so viel Aufmerksamkeit erregt wie die der grossen Sprachmodelle. Das starke Interesse daran kommt nicht nur aus technischen Fachkreisen, sondern zunehmend auch aus politischen, gesellschaftlichen und rechtlichen Interessengruppen. Getragen wurde diese Entwicklung durch die Verfügbarkeit grosser Datenmengen, spezialisierter Hardware für maschinelles Lernen sowie einen gesellschaftlichen Kontext, der stark von Automatisierung, Effizienzdenken und digitaler Transformation geprägt ist. 

Mit der zunehmenden Relevanz dieser Technologien rücken jedoch nicht nur ihre Potenziale, sondern auch ihre Risiken ins Blickfeld, insbesondere im Hinblick auf Transparenz, Kontrolle und Verantwortlichkeit. Gerade im europäischen Raum wird der Einsatz von künstlicher Intelligenz von Beginn an von regulatorischen und ethischen Überlegungen begleitet. Themen wie Datenschutz, Transparenz, Rechenschaftspflicht und Sicherheit stehen im Vordergrund, nicht als Zeichen technischer Rückständigkeit, sondern als Ausdruck gesellschaftlicher Verantwortung. Im April 2021 präsentierte die Europäische Kommission einen ersten Gesetzesentwurf zur Regulierung künstlicher Intelligenz [1] mit dem Ziel, klare Rahmenbedingungen für den verantwortungsvollen Einsatz von KI-Systemen zu schaffen, insbesondere in sensiblen Bereichen wie dem Gesundheitswesen. 

Regulierungsbedarfe sind dabei kein rein europäisches Phänomen, sondern betreffen alle Weltregionen, die KI verantwortungsvoll einsetzen wollen. Gerade in der Medizin, wo bestimmte Gruppen besonders verletzlich sind, ist Vertrauen eine zentrale Voraussetzung für nachhaltige Innovation. Eine klare rechtliche Grundlage, gepaart mit hoher Transparenz und sorgfältiger Datenführung, verbessert nicht nur den Schutz der Patientinnen und Patienten, sondern erhöht auch die Qualität der zugrunde liegenden Daten, und damit die Leistungsfähigkeit der Systeme selbst. Die Herausforderung liegt dabei weniger im Abwägen zwischen technologischem Fortschritt und regulatorischer Vorsicht, sondern im Aufbau robuster, nachvollziehbarer Systeme, die der medizinischen Realität langfristig standhalten können. 

Während regulatorische und ethische Fragen derzeit im Vordergrund vieler Diskussionen stehen, darf nicht übersehen werden, dass die rasante Entwicklung generativer Sprachmodelle auch auf bedeutende technologische Durchbrüche zurückgeht. Um die Relevanz dieser Systeme im Gesundheitswesen fundiert einordnen zu können, ist es notwendig, ihre Funktionsweise und Fortschritte im Vergleich zu früheren KI-Ansätzen zu verstehen.

Im Gegensatz zu früheren KI-Ansätzen wie regelbasierten Systemen oder statistischen Modellen haben sich neuronale Sprachmodelle stetig weiterentwickelt. Ältere Modelle wie BERT oder T5 wurden vor allem dafür entwickelt, vorhandene Texte zu analysieren und einzuordnen. Sie basierten auf Architekturen, die Informationen im Text aufnehmen und verarbeiten, vergleichbar mit einem System, das Texte liest und versteht. Moderne generative KI-Modelle wie ChatGPT hingegen sind darauf ausgelegt, selbst neue Texte zu verfassen. Sie nutzen dafür eine sogenannte «Decoder-Architektur» [2], die darauf spezialisiert ist, Wort für Wort sinnvolle Inhalte zu erzeugen. Diese Fähigkeit zum fortlaufenden, sinnhaften Generieren gibt diesen Modellen ihren Namen. 

Ein wesentlicher Fortschritt betrifft die Trainingsmethoden. Klassische Sprachmodelle wurden meist mit überwachtem Lernen trainiert. Das heisst, sie lernten aus vorgegebenen Beispielen mit klaren, korrekten Antworten. Moderne generative Modelle wie ChatGPT gehen darüber hinaus. Sie werden zusätzlich durch Rückmeldungen von Menschen verbessert, etwa mittels Verfahren wie Reinforcement Learning from Human Feedback (RLHF). Dabei bewertet ein Mensch verschiedene Antwortmöglichkeiten, und das Modell lernt daraus, welche bevorzugt werden. Weitere Optimierungen erfolgen über spezialisierte Methoden wie Proximal Policy Optimization (PPO) oder Direct Preference Optimization (DPO), mit denen das Modell feiner auf gewünschte Antworten abgestimmt wird. Diese Methoden haben die Qualität und Steuerbarkeit der generierten Inhalte erheblich verbessert und damit generative Sprachmodelle massentauglich gemacht.

Ein grosses Sprachmodell wie ChatGPT erstellt Texte Wort für Wort, aber nicht zufällig. Für jede neue Textstelle prüft es viele mögliche nächste Wörter gleichzeitig und bewertet, welches am besten zum bisherigen Text passt. Dieses Verfahren läuft extrem schnell und parallel ab, wodurch das Modell nicht nur sinnvoll wirkende, sondern auch inhaltlich stimmige und sprachlich kohärente Sätze erzeugen kann. So entsteht der Eindruck, dass das Modell «versteht», was es schreibt. Tatsächlich basiert es jedoch auf Wahrscheinlichkeiten und Mustern, die es im Training gelernt hat.

Erst durch diese Entwicklung der generativen KI, insbesondere der generative pre-trained transformers (GPT), können wir heute mit grossen Sprachmodellen interagieren, welche das Fundament von Anwendungen wie ChatGPT (OpenAI), Gemini (Google), Llama (Meta) oder Copilot (Microsoft) ausmachen. 

Ein weiterer Fortschritt im Bereich der generativen KI ist die Verarbeitung multimodaler Daten, also die gleichzeitige Analyse und Kombination verschiedener Formate wie Videos, Fotos, Texte und gesprochene Sprache. Dadurch können KI-Modelle komplexe Informationen kontextbezogen erfassen und interpretieren [3].

Ein praxisnahes Beispiel ist die Analyse von PDFs, die sowohl Text als auch eingebettete Diagramme enthalten können. Ein multimodales KI-Modell kann nicht nur den schriftlichen Inhalt auswerten, sondern auch die Bilddaten oder Diagramme analysieren und beides in einen sinnvollen Zusammenhang bringen. 

Damit Sprachmodelle Plausibilität und Kohärenz in ihren Antworten erreichen, benötigen sie enorme Mengen an Trainingsdaten. Die genaue Datenmenge wird dabei selten in Gigabytes oder Terabytes angegeben, sondern in Tokens, also kleinere Spracheinheiten wie einzelne Wörter oder Wortsegmente. Laut einer Publikation von OpenAI wurde GPT-3.5 mit etwa 500 Milliarden Tokens trainiert [4 ]. Für GPT-4 wurden keine offiziellen Angaben zur Trainingsdatenmenge veröffentlicht, doch anhand anderer Modelle lässt sich eine grobe Einschätzung treffen. So hat Meta für sein grosses Sprachmodell «Llama 3.1 405B» angegeben, dass es mit über 15 Trillionen Tokens trainiert wurde [5].

Die Basis der Trainingsdaten bilden im Internet verfügbare Artikel, wissenschaftliche Publikationen, lizenzierte Inhalte und mehr [4]. Die Leistungsfähigkeit grosser Sprachmodelle wird anschliessend anhand verschiedener standardisierter Tests, sogenannter Benchmarks, überprüft.

Grosse Sprachmodelle verfügen nicht nur über ein breites «Wissen», das aus ihren Trainingsdaten stammt und interaktiv abgefragt werden kann, sondern sie erfassen auch semantische Zusammenhänge und die spezifischen Eigenheiten von Sprachen. Sie erkennen Muster in Texten, «verstehen» Kontext und können Informationen strukturiert aufbereiten. Dadurch sind sie nicht nur für klassische Frage-Antwort-Szenarien geeignet, sondern auch für anspruchsvollere Aufgaben wie das Erfassen medizinischer Berichte oder die automatische Zusammenfassung von Patientendokumentationen. 

Soll ein grosses Sprachmodell in einer spezifischen Domäne eingesetzt werden, kann eine zusätzliche Spezialisierung durch sogenanntes Finetuning sinnvoll sein. Dabei wird das bereits trainierte Modell mit fachspezifischen Daten weiter optimiert, um noch präzisere und kontextgerechtere Ergebnisse zu liefern. 

Ein entscheidender Faktor für den Erfolg dieser Spezialisierung ist jedoch die Qualität und Verfügbarkeit der Trainingsdaten. Sprachmodelle besitzen bereits eine breite Grundkompetenz, doch ihre Leistungsfähigkeit in spezialisierten Bereichen hängt stark davon ab, ob sie mit ausreichend hochwertigen und kuratierten Daten versorgt werden. Besonders bei seltenen oder komplexen medizinischen Fragestellungen, sogenannten Edge Cases, kann es schwierig sein, genügend repräsentative Daten bereitzustellen. Zudem erfordert das Sammeln und Annotieren solcher Daten erhebliche finanzielle und zeitliche Ressourcen, nicht zuletzt aufgrund strenger Datenschutzauflagen. 

Ein Beispiel für eine solche Spezialisierung ist Googles Modell Gemini, das durch vertieftes Training mit medizinischen Daten zu Med-Gemini weiterentwickelt wurde. Dieses Verfahren ermöglicht es dem Modell, domänenspezifisches Wissen zu erlangen, wodurch es eine Genauigkeit von bis zu 91 % auf dem MedQA-Benchmark erreicht [6],[7]. Med-Gemini wurde auf eine Vielzahl von medizinischen Aufgaben und Modalitäten wie Text, Bilder und Videos optimiert, doch auch hier bleibt die Verfügbarkeit qualitativ hochwertiger medizinischer Daten eine zentrale Herausforderung für zukünftige Entwicklungen. 

Noch ist man weit davon entfernt, Med-Gemini zu verwenden, da diese Anwendung aktuell nicht für den Vertrieb vorgesehen ist. Stellt sich also die Frage, welchen Nutzen man schon heute mit generativer KI hat. Dabei fokussieren wir uns explizit auf die Relevanz im Gesundheitswesen, in dem man mit einer Fülle an wissenschaftlichen Artikeln, Zeitungsberichten, Technologieblogs und Vorträgen konfrontiert wird. Hier und dort trifft man auf Inhalte, welche das Potenzial dieser Technologie diskutieren, das jedoch bisher weitgehend ungenutzt bleibt. Die Gründe hierfür sind ethische Fragen, technische Limitationen und regulatorische Vorgaben, die für den klinischen Kontext noch nicht ausgereift sind. Zudem besteht oft ein mangelndes Verständnis davon, wie sich generative KI sinnvoll in den medizinischen Alltag integriert lässt. Viele Fachkräfte sind unsicher, in welchem Umfang sie solche Systeme nutzen können, ohne sich auf unsichere oder fehlerhafte Ergebnisse zu verlassen. Die optimale Zusammenarbeit zwischen Mensch und KI erfordert klare Leitlinien, Schulungen und ein Bewusstsein dafür, dass diese Technologie als unterstützendes Werkzeug und nicht als Ersatz für medizinisches Fachwissen betrachtet werden darf.

Missverständnisse können entstehen, wenn menschliche Fragen falsch interpretiert werden, oder es werden verzerrte Antworten generiert, die Patientinnen und Patienten in ihrer Behandlung schaden könnten [8], [9]. Ein weiteres zentrales Thema ist der Datenschutz im Gesundheitswesen, insbesondere im Umgang mit sensiblen personenbezogenen Daten [10]. Hier bedarf es klarer und robuster Regelungen, um sicherzustellen, dass die Daten der Patientinnen und Patienten geschützt bleiben. 

Eine stabile und vertrauenswürdige Mensch-KI-Beziehung ist ebenso von grosser Bedeutung wie die Etablierung ethischer Richtlinien, um eine sichere und effektive Verwendung dieser Technologie zu gewährleisten [11], [12], [13].

Ein oft genanntes Beispiel für den Einsatz generativer KI ist die medizinische Dokumentation. Grosse Sprachmodelle haben das Potenzial, Berichte und Zusammenfassungen medizinischer Befunde zu automatisieren oder sogar Informationen aus Patientengesprächen vollständig zu erfassen. Solche Prozesse erfordern jedoch eine enge Zusammenarbeit zwischen Mensch und KI, um die Qualität der generierten Inhalte sicherzustellen. Hier kommt der Human-in-the-loop-Ansatz ins Spiel: Fachkräfte prüfen und validieren die generierten Texte, um Fehler oder Missverständnisse frühzeitig zu erkennen. Dieses hybride Modell gewährleistet nicht nur eine höhere Präzision, sondern schafft auch Vertrauen in den Einsatz von KI-gestützten Dokumentationssystemen. 

Darüber hinaus wirkt generative KI wie ein Katalysator im Bereich der personalisierten Medizin. Eine ihrer Stärken liegt in der Verarbeitung grosser Datenmengen, wodurch genetische Informationen, Krankengeschichten und Umwelteinflüsse kombiniert werden können, um präzisere Vorhersagen über Therapieergebnisse zu treffen [14].

Neben diesen Anwendungen spielt KI auch eine zunehmende und wichtige Rolle im Bereich des Protein Folding und Protein Design. Modelle wie AlphaFold haben gezeigt, dass KI die dreidimensionale Struktur von Proteinen mit hoher Genauigkeit vorhersagen kann, was die Entwicklung neuer Medikamente und Therapien erheblich beschleunigt [15], [16]. Generative KI kann zudem neue Proteinsequenzen entwerfen, die für gezielte Therapien oder individualisierte Behandlungsansätze genutzt werden könnten [17], [18]. Diese Fortschritte eröffnen neue Möglichkeiten in der Medikamentenentwicklung und erweitern das Spektrum der personalisierten Medizin. 

Im weiteren Verlauf dieses Berichtes werden wir verschiedene Anwendungen und Fragestellungen genauer untersuchen und mit einem kritischen, wissenschaftlich fundierten Blick bewerten. Wir werden damit aufzeigen, wie sich generative KI sicher, ethisch und effektiv im klinischen Alltag integrieren lässt.