Die Gesprächspartner
Prof. Dr. Patrick Da-Cruz ist Professor für Betriebswirtschaftslehre und Gesundheitsmanagement an der Fakultät Gesundheitsmanagement der Hochschule Neu-Ulm (HNU) sowie wissenschaftlicher Leiter des MBA-Programms Führung und Management im Gesundheitswesen.
Vor seiner Tätigkeit an der HNU war Herr Da-Cruz bei namhaften Strategieberatungen im Bereich Pharma / Healthcare sowie in Führungsfunktionen in Unternehmen der Gesundheitswirtschaft im In- und Ausland tätig.
Dr. med. Michael Ullmann fungiert als Chief Medical Information Officer International für den Geschäftsbereich Healthcare International bei Nuance; einem Anbieter für Anbieter von Sprachverarbeitungslösungen (Conversational AI). Vor seiner Tätigkeit bei war Dr. med. Michael Ullmann in führender Position in den Bereichen Forschung und Entwicklung, Innovation und klinischer Evidenzgenerierung bei Robert Bosch und Johnson & Johnson sowie als unabhängiger Unternehmensberater tätig. Dr. Ullmann ist Facharzt für Allgemeinmedizin und Sportmedizin mit Facharztreife Herzchirurgie. Von den 20 Jahren praktischer Tätigkeit im Gesundheitswesen verbrachte er 13 Jahre in verschiedenen Universitätskliniken und sieben Jahre in seiner eigenen Arztpraxis. Ende 2017 erwarb er einen MBA in Betriebswirtschaft für Ärztinnen und Ärzte mit Auszeichnung an der HNU.
Was versteht man unter generativer KI und wie funktioniert sie?
Dr. med. Ullmann: Generative künstliche Intelligenz (KI) generiert (erzeugt) nach entsprechender Eingabeaufforderung (sogenannter Prompt) Texte auf der Basis statistischer Wahrscheinlichkeiten. Sie macht Sprache und damit Texte berechenbar. Die so erzeugten Texte basieren also nicht auf Faktenwissen bzw. einem intelligenten Ansatz, sondern rein auf statistischen Wahrscheinlichkeiten. Daher ist der Begriff künstliche Intelligenz für diese trainierten Algorithmen unglücklich gewählt.
Generative KI beruht auf neuronalen Netzwerken mit Transformer-Architektur und Deep-Learning-Algorithmen und ist in der Lage, natürliche Sprache zu verstehen, zu verarbeiten und zu generieren (erzeugen). Es handelt sich also dabei um ein Machine-Learning-Modell aus dem Bereich der KI zur Verarbeitung natürlicher Sprache (Natural Language Processing, NLP).
Generative KI basiert auf sogenannten Large Language Models (LLMs, große Sprachmodelle). Diese werden mit riesigen Textmengen trainiert und bei Bedarf feinabgestimmt. Dabei beschreibt das Akronym GPT z.B. in ChatGPT, einem der bekanntesten LLM-Vertreter, bereits die Funktionsweise: Es steht für „Generative Pre-trained Transformer“, ein künstliches „vortrainiertes“ neuronales Netzwerk.
Das Lernen während des Trainings findet in der Regel unüberwacht (unsupervised) statt. Die Trainingstexte sind nicht gelabelt (gekennzeichnet) oder mit speziellen Kommentaren versehen. Für das Training werden beispielsweise hunderte Gigabyte öffentlich zugänglicher Texte in verschiedenen Sprachen wie Wikipedia-Artikel, Bücher, wissenschaftliche Artikel, Nachrichtentexte, Forenbeiträge, Beiträge in sozialen Netzwerken oder Online-Kommentare verwendet.
Vereinfacht ausgedrückt, könnte man generative KI bzw. LLMs als „Textvorhersage-Maschinen“ bezeichnen.
Wie wird sich generative KI in der Gesundheitsversorgung auswirken, welche Bereiche können in welcher Form davon profitieren?
Dr. med. Ullmann: Laut übereinstimmender Expertenmeinungen werden LLMs in Zukunft eine zentrale Rolle im Gesundheitswesen spielen. Sie werden voraussichtlich das gesamte Spektrum textbasierter klinischer Dokumentation übernehmen:
- Ärztliche und pflegerische (Verlaufs-)Dokumentation
- Arztbriefe (Aufnahme, Verlegung, Entlassung, Befundberichte etc.)
- Behandlungspläne
- Therapieempfehlungen
Darüber hinaus können sie bereits bei der Ausbildung sowohl für die Pflege als auch im Medizinstudium zur Anwendung kommen. Ebenso ist ein Einsatz bei der Aufklärung und Weiterbildung von Patientinnen und Patienten denkbar.
Ein wesentlicher Einsatz wird die zeitsparende Zusammenfassung stationärer Krankenhausaufenthalten auf Basis der in der Krankenakte dokumentierten Daten sein. Dabei können selbst komplizierte Verläufe sehr rasch zusammengefasst und auch für Patientinnen und Patienten verständlich in einfacher Textform erzeugt werden. Dieses Prinzip der Extraktion, Zusammenfassung und übersichtlichen Darstellung wesentlicher Informationen lässt sich auch auf die medizinische Wissenschaft und Forschung übertragen, bei der große wissenschaftliche Textmengen schnell und übersichtlich zusammengefasst werden können.
Ein weiterer wesentlicher Aspekt ist die vielversprechende Unterstützung der Ärztinnen und Ärzte bei der Ausarbeitung von Therapieplänen. Besonders im Bereich der Onkologie, bei der fast täglich neue wissenschaftliche Erkenntnisse und Therapieansätze veröffentlicht werden, kann dies sehr hilfreich sein und die Patientenversorgung erheblich verbessern.
Kann generative KI im Gesundheitswesen einen Lösungsansatz für den Fachkräftemangel darstellen?
Dr. med. Ullmann: Jein. Generative KI kann weder fehlendes ärztliches noch pflegerisches Personal ersetzen, übrigens genauso wenig wie auch die sonstigen im Gesundheitswesen eingesetzten KI-Lösungen. KI dient der Unterstützung, nicht dem Ersatz von Fachkräften im Gesundheitswesen.
Generative KI im Gesundheitswesen kann allerdings zu deutlich mehr Effizienz und Produktivität führen. Erwartet wird, dass durch die so erzielte Zeitersparnis mehr Zeit für die Patientenversorgung zur Verfügung stehen wird. Dies könnte eventuell den bestehenden und sich in Zukunft weiter verschärfenden Fachkräftemangel im Gesundheitswesen etwas kompensieren und sich auch auf die Qualität der Patientenversorgung positiv auswirken.
Welche Risiken sind mit dem Einsatz generativer KI in der Gesundheitsversorgung verbunden und wie können diese minimiert werden?
Dr. med. Ullmann: Wenn man weiß, worauf KI, also auch generative KI, basiert, kennt man auch die Risiken, die mit der KI-Entwicklung verbunden sind. Generative KI wird wie bereits erwähnt mit großen Datenmengen, die in der Regel nicht auf ihre Richtigkeit überprüft wurden, trainiert. Die frei zugänglichen Daten stammen von Textbeiträgen aus dem Internet, sozialen Netzwerken und weiteren ungeprüften Quellen und enthalten somit natürlich auch falsche Informationen und unwahre Behauptungen. Diese verfälschten Trainingsdaten führen in der Folge im Rahmen des Trainings der KI zu einer Verzerrung (Bias), die sich auf die Ausgabe, also hier den generierten Text, auswirken kann, ohne dass der Anwender dies sofort erkennt. Man spricht in diesem Zusammenhang auch von Halluzinationen der KI, wenn diese bzw. das LLM angebliche Tatsachen frei erfindet. Dies kann besonders im Gesundheitswesen gravierende Auswirkungen haben, wenn diese Halluzinationen vom Anwender nicht als solche identifiziert und einfach unkritisch als Tatsachen übernommen werden.
Gerade die von LLMs erzeugten Texte machen in der Regel einen sehr akkuraten und sinnvollen Eindruck und können somit insbesondere unerfahrene und unkritische Anwenderinnen und Anwender sehr leicht täuschen. Um diese Risiken zu minimieren, fordern Expertinnen und Experten schon seit Längerem eine strenge Regulierung von KI, besonders für den Einsatz im Gesundheitswesen. Erste Entwürfe sind auf EU-Niveau bereits auf den Weg gebracht worden. Ein möglicher Ansatz wäre z. B. die Kennzeichnung mit LLMs generierter Texte als solche.
An medizinischen Universitäten in den USA gibt es bereits Überlegungen, an der Entwicklung generativer KI für die Medizin aktiv mitzuarbeiten, statt diese nur der Industrie und deren Software-Entwicklerinnen und -Entwicklern, also letztendlich medizinischen Laien, zu überlassen. Eine weitere sinnvolle Forderung ist, dass KI und deren medizinische Anwendungen zukünftig auch Inhalt des Medizinstudiums werden sollte. Zukünftige Ärztinnen und Ärzte sollten diese Technologien und Lösungen bereits im Studium kennenlernen und um die Vor-, aber auch Nachteile wissen.
Welche Anforderungen an Kompetenzprofile ergeben sich für Health Professionals und das Management von Gesundheitseinrichtungen durch generative KI?
Dr. med. Ullmann: Im Prinzip dieselben, wie sie auch beim mittlerweile selbstverständlich gewordenen täglichen Umgang mit den sozialen Netzwerken und der Beurteilung deren frei zugänglichen und unkontrollierten Texten und Posts gelten sollten.
Das Anwenden generativer KI bzw. von LLMs erfordert per se keine spezielle Kompetenz, wohl aber die Beurteilung des so erzeugten Textes. Hier ist kritisches Denken gefragt mit permanentem Hinterfragen von dargestellten Behauptungen auf deren Richtigkeit und Wahrheitsgehalt. Sämtliche mit KI generierte Dokumente, ob nun Entlassbriefe oder radiologische Befunde, müssen kritisch gegengelesen, auf Richtigkeit überprüft und gegebenenfalls korrigiert werden.
Gerade das Erkennen von KI-Halluzinationen kann aber manchmal eine Herausforderung darstellen, v. a. hinsichtlich des im Gesundheitswesen herrschendem Zeitdrucks. Das Erkennen von Unwahrheiten und frei erfundenen „Tatsachen“ muss geübt und unbedingt auch unter Zeitdruck konsequent angewandt werden.
Vielen Dank für das Gespräch!
