Die Gesprächspartner
Prof. Dr. Patrick Da-Cruz ist Professor für Betriebswirtschaftslehre und Gesundheitsmanagement an der Fakultät Gesundheitsmanagement der Hochschule Neu-Ulm (HNU) sowie wissenschaftlicher Leiter des MBA-Programms Führung und Management im Gesundheitswesen.
Vor seiner Tätigkeit an der HNU war Herr Da-Cruz bei namhaften Strategieberatungen im Bereich Pharma / Healthcare sowie in Führungsfunktionen in Unternehmen der Gesundheitswirtschaft im In- und Ausland tätig.
Rudolf Wagner verfügt über mehr als 15 Jahre Erfahrung in allen Bereichen des Qualitäts- und Compliance-Managements, der Teamführung, der P&L-Verantwortung und des Beziehungsaufbaus im schnelllebigen Umfeld der Pharma- und Medizinprodukteindustrie. Seit 2022 ist er Geschäftsführer der ADHOCON UG.
Was versteht man unter Patientensicherheit?
Rudolf Wagner: Patientensicherheit bezieht sich auf viele einzelne Elemente im Zusammenhang mit einer medizinischen Diagnose und anschließender Therapie. Im Zusammenhang mit Digital Health und KI in der Medizin geht es um den Schutz von Patientinnen und Patienten vor vermeidbaren Schäden während der medizinischen Versorgung. Dies sind alle Maßnahmen zur Reduktion von Diagnose- und Behandlungsfehlern, die während einer Behandlung auftreten können. Die Behörden fast aller Länder weltweit haben hierzu regulatorische Vorgaben wie die EU-Medizinprodukteverordnung (EU MDR) und die In-vitro-Diagnostika-Verordnung (EU IVDR) gesetzlich verankert und verpflichten damit Hersteller von Medizinprodukten und Gesundheitseinrichtungen, umfassende Risikoanalysen durchzuführen und Sicherheitsmaßnahmen zu integrieren. Diese Regulierungen stellen sicher, dass Produkte auf den Markt kommen, die sicher und nachgewiesen wirksam sind und von einer externen Stelle (Benannte Stelle wie der TÜV oder DEKRA) geprüft und mit einem CE-Zeichen versehen wurden. Auch nach der Markteinführung müssen diese Produkte kontinuierlich überwacht werden, um potenzielle Risiken zu identifizieren und zu verhindern. Ein zentrales Element der Patientensicherheit ist das Post-Market-Surveillance-System, das eine fortwährende Überwachung und Bewertung von Medizinprodukten im klinischen Einsatz sicherstellt. Internationale Standards wie ISO14971 ergänzen diese Regulation, indem sie spezifische Richtlinien für das Risikomanagement vorgeben. Die Patientensicherheit wird somit durch eine Kombination aus strengen regulatorischen Vorgaben, deren Überprüfung und Genehmigung, aber auch durch technologischen Innovationen und bewährten klinischen Praktiken gewährleistet.
Welche Rolle spielt das Thema Patientensicherheit derzeit im deutschen Gesundheitswesen?
Rudolf Wagner: In Deutschland hat Patientensicherheit einen sehr hohen Stellenwert, insbesondere wegen der steigenden Komplexität des Gesundheitssystems, der Vorgaben durch Krankenkassen, fehlender finanzieller Mittel, fehlendem Personal und der fortschreitenden Digitalisierung. Regulatorische Vorgaben wie die EU MDR und nationale Gesetze wie das Patientenrechtegesetz zielen darauf ab, die Sicherheit der Patientinnen und Patienten zu gewährleisten. Die MDR, die seit Mai 2021 in vollem Umfang gilt, fordert von Herstellern von Medizinprodukten, einschließlich Software als Medizinprodukt (SaMD), zu denen auch KI gehört und explizit eingeschlossen ist, strenge Sicherheits- und klinische Nachweise für die positive Wirksamkeit. Diese Regulierungen sind darauf ausgelegt, Risiken für Patientinnen und Patienten zu minimieren, indem sie hohe Anforderungen an die Entwicklung, Zulassung und Überwachung von Produkten stellen. Darüber hinaus sind auch die Krankenhäuser so gesetzlich reguliert, dass sie ausschließlich zugelassene und geprüfte Medikamente und Medizinprodukte wie Software und KI nutzen dürfen. Ergänzend dazu fördern Initiativen wie der „Aktionsplan Patientensicherheit“ und die Nationale Kontaktstelle für Patientensicherheit die Vermeidung von Behandlungsfehlern. Durch diese Initiative werden standardisierte Sicherheitsprotokolle implementiert und kontinuierliche Verbesserungen in der Patientensicherheit erreicht. Die Integration neuer Technologien und die Sicherheit für jede Patientin und jeden Patienten, dass diese den hohen Sicherheitsanforderungen entsprechen, sind Herausforderungen, die eng von Gesundheitseinrichtungen, Regulierungsbehörden und der Gesellschaft überwacht werden müssen.
Welche traditionellen Maßnahmen kommen in Betracht, um die Patientensicherheit zu erhöhen?
Rudolf Wagner: Traditionelle Maßnahmen zur Erhöhung der Patientensicherheit umfassen standardisierte Protokolle, Schulungen des medizinischen Personals und Qualitätssicherungsprozesse bei den Entwicklern und Gesundheitseinrichtungen. Diese Maßnahmen zielen darauf ab, Behandlungsfehler zu minimieren und eine hohe Sicherheit und Qualität der Diagnose und Behandlung zu gewährleisten.
Ein wichtiger Ansatz hierbei ist das Risikomanagement, das eine systematische Identifizierung, Bewertung und Minderung von Risiken für Produkte wie Hardware, Medizinprodukte, Software, KI und Medikamente fordert. In der EU verlangt die MDR von Herstellern die Implementierung eines Risikomanagementsystems, das regelmäßig überprüft und angepasst werden muss, um sicherzustellen, dass Produkte sicher und effektiv wirksam bleiben.
In der klinischen Praxis tragen Maßnahmen wie die Einführung von Checklisten, die insbesondere in der Chirurgie und Intensivmedizin verwendet werden, sowie die Etablierung von Fehlerreporting- und Lernsystemen zur Verbesserung der Patientensicherheit bei.
Am wichtigsten ist es jedoch, dass ganz klassisch alle regulatorischen und gesetzlichen Vorgaben durch die Behörden überwacht und aktiv eingefordert werden. Nur dadurch werden Hersteller und Gesundheitseinrichtungen, die gefährliche, weil nicht genehmigte Produkte und Software einsetzen, gefunden und das Risiko eliminiert, dass dadurch Schaden entsteht. Regelmäßige Audits und Schulungen tragen dazu bei, das Bewusstsein für Sicherheitsrisiken zu schärfen und sicherzustellen, dass medizinisches Personal in der Lage ist, potenzielle Gefahren frühzeitig zu erkennen und zu adressieren.
Kann Künstliche Intelligenz (KI) die Patientensicherheit verbessern?
Rudolf Wagner: Grundsätzlich ja, aber nur dann, wenn diese KI auch vorab auf Sicherheit und Wirksamkeit gemäß den geltenden Regulierungen und Gesetze geprüft und genehmigt wurde.
KI bietet großes Potenzial zur Verbesserung der Patientensicherheit, insbesondere durch die Analyse großer Datenmengen und – sofern durch die Behörden und benannten Stellen zugelassen – durch die Bereitstellung präziser Entscheidungshilfen für medizinisches Personal. KI-Systeme können verwendet werden, um komplexe Diagnosen zu unterstützen, Arzneimittelinteraktionen vorherzusagen und potenzielle Komplikationen frühzeitig zu erkennen, z.B. durch sogenannte Digital Twins und die Ergebnisse aus klinischen Studien.
Regulatorische Vorgaben wie die EU-MDR und die FDA-Richtlinien für Software als Medizinprodukt (SaMD) stellen strenge Anforderungen an die Sicherheit und Effektivität von KI-Anwendungen, bevor sie klinisch eingesetzt werden dürfen. Diese Regulierungen fordern von Herstellern, dass KI-Systeme validiert und kontinuierlich überwacht werden, um ihre Sicherheit und Wirksamkeit sicherzustellen. Darüber hinaus müssen KI-Algorithmen regelmäßig überprüft und angepasst werden, um sicherzustellen, dass sie auf aktuellen medizinischen Erkenntnissen und Daten basieren und zuverlässig funktionieren.
Ein Beispiel für den Einsatz von KI zur Verbesserung der Patientensicherheit ist die Verwendung von Machine-Learning-Algorithmen, die Muster in Patientendaten erkennen, die menschlichem Verständnis möglicherweise entgehen. Dies kann zu präziseren Diagnosen und personalisierten Behandlungsplänen führen, die auf die individuellen Bedürfnisse der Patientinnen und Patienten abgestimmt sind.
Welche Risiken ergeben sich ggf. aus dem KI-Einsatz für die Patientensicherheit?
Rudolf Wagner: Obwohl KI das Potenzial hat, die Patientensicherheit zu verbessern, birgt ihr Einsatz auch Risiken. Zu den Hauptgefahren gehört das Risiko von Fehlentscheidungen, die durch unzureichend trainierte oder fehlerhafte KI verursacht werden können. Solche Fehler könnten zu falschen Diagnosen oder ungeeigneten Behandlungsentscheidungen führen, was die Patientensicherheit gefährden könnte. So wurden einige zugelassene KI-Systeme auf der Basis von nur 1500 Patientendaten trainiert. Auf diese Weise ist eine starke Einschränkung zu erwarten, sodass möglicherweise in Randbereichen, also bei Patientinnen und Patienten mit seltenen Nebenerkrankungen, falsche Schlussfolgerung gezogen werden.
Ein weiteres Risiko besteht in der Abhängigkeit von KI-Systemen durch medizinisches Personal, wodurch wichtige klinische Urteile möglicherweise weniger kritisch hinterfragt werden. Wo heute möglicherweise ein Arzt oder eine Ärztin eine Kollegin oder einen Kollegen hinzuziehen würde, könnte ein falsches Vertrauen in die KI und ihre schnelle und selbstbewusste Antwort einen Zweifel gar nicht erst entstehen lassen.
Regulatorische Vorgaben wie die EU-MDR und FDA-Richtlinien zielen darauf ab, solche Risiken zu minimieren, indem sie strenge Anforderungen an die Validierung und kontinuierliche Überwachung von KI-Anwendungen stellen. Allerdings sind bereits heute über 200.000 Software-Apps und tausende KI-Systeme ohne Genehmigung oder Überprüfung durch die Behörden im Einsatz. Selbst ChatGPT, das keine Freigabe für die medizinische oder klinische Nutzung hat, wird immer häufiger von Ärztinnen und Ärzten heimlich genutzt.
Darüber hinaus stellen Datenschutz- und Sicherheitsrisiken eine Herausforderung dar, insbesondere da KI-Systeme große Mengen sensibler Patientendaten verarbeiten. Die MDR verlangt umfassende Maßnahmen zum Schutz dieser Daten, einschließlich klarer Verantwortlichkeiten und eines transparenten Umgangs mit Datenverarbeitungsprozessen. Schließlich besteht das Risiko, dass KI-Systeme, die nicht regelmäßig aktualisiert und überwacht werden, im Laufe der Zeit an Genauigkeit und Relevanz verlieren. Dies könnte zu einer Verschlechterung der Qualität der medizinischen Versorgung führen.
Vielen Dank für das Gespräch!
