Seit Januar ist die Clinical Decision Support-Software MAIA im Universitätsklinikum Schleswig-Holstein im Einsatz. Mit Prof. Dr. Kai Wehkamp (UKSH-seitige Leitung der Entwicklungspartnerschaft bis 2024) und Dr. Claas-Olsen Behn (B. Sc., Oberarzt der Klinik für Innere Medizin I, Campus Kiel, Co-Leiter des Projekts MAIA am UKSH) haben wir über den Weg von der Entwicklungspartnerschaft zum produktiven Einsatz der Software in der Klinik gesprochen. Wie gelingt die Entwicklung und Einführung einer KI-gestützten Entscheidungsunterstützung im Krankenhaus? Welche Chancen und Herausforderungen gibt es? Und warum lohnt sich der Einsatz von KI trotz anfänglicher Investitionen und Zusatzaufwände am Ende?
Im Januar 2025 wurde die Clinical Decision Support-Software (CDSS) MAIA der Tiplu GmbH im UKSH eingeführt. Welche Chancen bieten solche KI-Assistenten für den Krankenhausalltag?
Behn: In dem aktuellen Hype um künstliche Intelligenz polarisieren diese Produkte in erster Linie. Sie werden wahrscheinlich ebenso häufig über- wie unterschätzt. Eine gute Entscheidungsunterstützung wie MAIA verändert keine medizinischen Grundsätze und ist kein zauberhaftes Allheilmittel. Unter der Voraussetzung einer guten Implementierung fühlt es sich für den Endanwender aber manchmal fast so an.
Wehkamp: Wir produzieren im Krankenhaus inzwischen so viele Messwerte und andere patientenbezogenen Daten, dass es kaum möglich ist, diese alle gleichzeitig im Blick zu behalten. KI-Systeme können hingegen rund um die Uhr Daten analysieren und nicht nur kritische Krankheitskonstellationen erkennen, sondern sogar vorhersagen. Das hat das Potential, die Qualität und Sicherheit der Medizin massiv zu verbessern.
Dem produktiven Einsatz von MAIA im UKSH ging eine mehrjährige Entwicklungspartnerschaft zwischen UKSH und Tiplu voraus. Was passiert im Rahmen einer solchen Partnerschaft?
Wehkamp: Um ein KI-System dieser Art bis zum zugelassenen Medizinprodukt zu entwickeln, benötigt man ein breites Spektrum an verschiedenen Expertisen, die in der Entwicklungskooperation zusammengekommen sind: KI-Entwicklung, Datenanalyse, medizinisches Behandlungs- und Prozesswissen, aber auch rechtliche Aspekte, Ethik, Datenschutz und ein tiefes Organisationsverständnis für die klinische Behandlung und IT-Integration im Krankenhaus. Nicht weniger wichtig ist dann noch die stringente Projektführung, die natürlich immer wieder neue Hürden überwinden muss. So ähnlich wie bei der Entwicklung von Medikamenten regelmäßig Universitäten und Pharmafirmen kooperieren, braucht es auch bei der Entwicklung von softwarebasierten Medizinprodukten eine starke Kooperation zwischen Wissenschaft und Wirtschaft.
“Wenn man [...] die Digitalisierung auch als Prozessoptimierung versteht und sich in gemeinschaftlicher, interdisziplinärer Expertise traut, Dinge neu zu denken und falls sinnvoll zu verändern, ergeben sich häufig sehr gut übertragbare Lösungen. [...] Wenn ein Prozess schneller, bequemer und dabei zuverlässiger wird, werden die Anwender ihn akzeptieren.”
Diejenigen, die MAIA letztlich nutzen, haben individuelle Anforderungen und Erwartungen an die Software. Wie kann gewährleitest werden, dass das fertige Produkt in verschiedenen Kliniken mit ganz unterschiedlichen Parametern und Voraussetzungen – bspw. Behandlungsspektrum, Größe oder Fallzahlen – erfolgreich in die Anwendung kommt?
Behn: Diese Frage beinhaltet mehrere Ebenen. Grundsätzliche medizinische Anforderungen sind in den meisten Häusern ähnlich, der Grad der Komplexität unterscheidet sich häufig. Eine Software, die sich den bestehenden Prozessen unterordnet, findet natürlich schnelle Akzeptanz, ist aber schwer auf andere Häuser übertragbar. Wenn man aber im Rahmen einer solchen Entwicklungspartnerschaft die Digitalisierung auch als Prozessoptimierung versteht und sich in gemeinschaftlicher, interdisziplinärer Expertise traut, Dinge neu zu denken und falls sinnvoll zu verändern, ergeben sich häufig sehr gut übertragbare Lösungen. Aus Anwendersicht ist die Sache schnell erklärt: Wenn ein Prozess schneller, bequemer und dabei zuverlässiger wird, werden die Anwender ihn akzeptieren.
Entwicklungspartnerschaften bedeuten für die Klinik erst einmal einen Zusatzaufwand, während Mittel und Kapazitäten vieler Häuser aktuell ohnehin begrenzt sind. Weshalb zahlt sich die anfängliche Investition trotzdem aus?
Wehkamp: Universitäten haben den Auftrag durch Wissenschaft einen positiven Beitrag für die Gesellschaft insgesamt zu leisten. Dazu gehört unter anderem auch die wissenschaftliche Entwicklung neuer Konzepte wie diesem und die Überprüfung, wie diese Nutzen entfalten können. Insofern passt das Projekt sehr gut in das Selbstverständnis einer Universität, die einen Beitrag zu Innovationen in der Patientenversorgung liefern möchte.
Behn: Wenn aus dieser initialen Investition am Ende ein Produkt hervorgeht, welches für das UKSH einen größeren Mehrwert bietet als diese Anfangsinvestition, beantwortet das die Frage und sagt auch etwas über unseren Anspruch an das Produkt.
KI spielt auch im Gesundheitswesen eine immer größere Rolle. Das birgt ein großes Potenzial, insbesondere im klinischen Bereich aber auch gewisse Risiken. Wie sind Sie mit diesen Herausforderungen während der Entwicklung umgegangen?
Wehkamp: Wie für jedes neue Verfahren, gibt es selbstverständlich auch für KI-basierte Softwarelösungen prinzipiell Risiken. Tückisch bei Anwendungen, die auf maschinellem Lernen als datenbasierter KI basieren, ist, dass so viele verschiedene Ebenen voneinander abhängig sind. Zum Beispiel die Ebene der Datenerzeugung, die Interpretation der Daten oder auch die Interaktion mit dem Anwender und Patienten. Letztlich geht die ganze Entwicklung ganz wesentlich darum, auf all diesen Ebenen Qualität und Funktionalität zu erreichen. Im Rahmen der MDR-Zertifizierung wird das Ergebnis dann nochmal sehr kritisch überprüft und entsprechend viel harte Arbeit steckt in dem finalen Zulassungsbescheid, über den wir uns unglaublich gefreut haben.
Ein häufiger Kritikpunkt an KI-Systemen ist deren Intransparenz – der sogenannte „Blackbox-Effekt“. Lassen sich die Entscheidungsprozesse von MAIA transparent nachvollziehen?
Behn: MAIA hat ja mehrere Säulen, Verdachtsdiagnosen sind algorithmische Entscheidung mit einem klaren Regelwerk und deswegen auch sehr gut nachvollziehbar. Auch benutzerdefinierte Hinweise sind durch eine klare Regelsprache definiert und im Rahmen dieser hervorragend nachvollziehbar. Bei der Risikoprädiktion und damit dem maschinellen Lernen liegt es in der Natur der Sache, dass hier Dinge oft zum medizinischen Bauchgefühl passen, einiges anteilig erklärt werden kann, aber genau hier der Blackbox-Effekt zum Tragen kommen kann. Um dem entgegenzuwirken, werden alle Hinweise, die MAIA gibt, begründet und es ist möglich, die Datengrundlage dazu nachzuvollziehen. Entsprechend müssen wir die Hinweise der KI aber auch als solche betrachten und als Mediziner nachprüfen.
Wie sollte medizinisches Personal auf die Arbeit mit KI-gestützten Systemen vorbereitet werden?
Wehkamp: Ganz allgemein ist es wichtig, dass ein Verständnis für die grundsätzlichen methodischen Prinzipien aufgebaut wird. Dazu gehören keine technischen Details, wie die Funktionsweise eines Neuronalen Netzes, wohl aber die Grundzüge von Supervised Learning, Large Language Modellen & Co.Das ist sowohl wichtig, um Vertrauen zu schaffen, als auch um die Limitationen zu verstehen. Genau so, wie wir auch grundsätzlich verstehen wollen, wie ein Röntgengerät funktioniert oder ein Perfusor. Hinzu kommt dann die technische Schulung für das konkrete Produkt, wobei es hier ja in der Regel spezifische Vorgaben gibt, die durch die Medizinproduktezulassung geregelt werden.
Soll KI künftig auch in anderen Bereichen des UKSH verstärkt zum Einsatz kommen?
Behn: Mit der künstlichen Intelligenz ergeben sich aktuell so viele neue Möglichkeiten, dass eine umfassende Antwort schwer möglich ist. Generell handelt es sich aus der Sicht des UKSH um eine Werkzeugklasse, die an sehr vielen unterschiedlichen Stellen zum Einsatz kommen wird. Eine vollständige Aufzählung würde den Rahmen sprengen, aktuell pilotieren wir z. B. die künstliche Intelligenz in der Arztbriefschreibung, die Notaufnahmen profitieren von einer schnelleren Datenerfassung, in den Ambulanzen können Telefonanrufe teilweise automatisiert beantwortet und Termine vergeben werden und bildgebende Diagnostik wird an vielen Stellen bereits durch künstliche Intelligenz unterstützt.