Abbildung 1 zeigt das Spektrum der Anwendungen von KI im Gesundheitsbereich, wobei zwischen Medizinprodukten (rechte Seite, türkis eingefärbt) und nicht-Medizinprodukten (linke Seite, grün eingefärbt) unterschieden wird.

Nicht-Medizinprodukte haben keine medizinische Zweckbestimmung oder kommen nicht am Menschen zum Einsatz. Dazu gehören die KI-gestützte Krankenhausverwaltung oder der KI-Einsatz in der medizinischen Bildung und Forschung. Diese Bereiche sollen in diesem Blogbeitrag nicht näher betrachtet werden.

Stattdessen soll es um KI-basierte, patientennahe Medizinprodukte und -services gehen, die entsprechend der Vorgaben der europäischen Medical Devices Regulation (MDR) zugelassen wurden oder eine Zulassung benötigen, um in die Anwendung zu kommen. Wichtigste Punkte bei diesem Zulassungsverfahren sind die medizinische Wirksamkeit, die Zuverlässigkeit und der Datenschutz.

Apps: Digitale Gesundheitsanwendungen

Im Folgenden werden zwei Beispiele für digitale Gesundheitsanwendungen, die sogenannten »Apps auf Rezept«, vorgestellt: »Mika« und »Diafyt«.

Die App »Mika« begleitet Krebspatient:innen digital, indem sie ihnen Informationen zu ihrer Erkrankung bereitstellt und Aktivitäten in den Bereichen Bewegung, Ernährung und psychologische Resilienz empfiehlt. Grundlage für die Empfehlungen ist ein digitales Symptom-Tagebuch, dessen Einträge eine personalisierte Begleitung der Patient:innen ermöglichen. Hierbei handelt es sich um ein lernendes System, das auf der Basis der eingegebenen Daten sowie der Rückmeldungen zu absolvierten Aktivitäten entsprechende Vorschläge macht.

Ziel der App ist, Patient:innen zu aktivieren und zu motivieren. Auf der Website der App berichten Nutzende, dass sie sich durch die Nutzung der App mental gestärkt fühlen und dass sie ihren Ärzt:innen zielgerichtetere Fragen stellen können.

Die App »Diafyt« ist mit einem smarten Insulin-Pen verbunden und ist für Typ1-Diabetes-Patient:innen gedacht. Sie ermittelt den individuellen Insulinbedarf und gibt Empfehlungen für die jeweilige Insulin-Dosierung. Für Menschen mit Diabetes kann die App sehr hilfreich sein, da sie verschiedene Aktivitäts- und Vitaldaten zusammenführt und aus vergangenen Werten »lernt«. So kann sie zu einem stabilen Blutzucker beitragen.

Zwar sind die Empfehlungen der App sehr zuverlässig, allerdings könnten Fehler der App gravierende Konsequenzen haben. Wenn zum Beispiel eine zu hohe Insulingabe empfohlen wird, könnte dies im schlimmsten Fall sogar tödliche Konsequenzen haben. Deshalb wird bei der Benutzung der App darauf hingewiesen, dass es sich lediglich um Empfehlungen handelt, die Entscheidung soll weiterhin der Patient oder die Patientin selbst treffen.

Früherkennung: Alzheimer

Früherkennung ist immer dann wichtig, wenn das frühe Eingreifen, die Veränderung des Lebensstils oder der frühzeitige Beginn einer Therapie den Verlauf einer Krankheit positiv beeinflussen kann.

Beispiel Alzheimer: Weil die Krankheit eine lange symptomfreie Zeit von 15 bis 20 Jahren hat, bis sie sich mit Fehlfunktionen bemerkbar macht, ist die frühzeitige Diagnose und Therapie mit der Hoffnung verbunden, dass sich der Krankheitsverlauf verlangsamen oder vielleicht sogar aufhalten lässt.

Typischerweise werden zur Diagnose MRT-Untersuchungen durchgeführt, um zu sehen, inwieweit das Gehirnvolumen schon reduziert ist. Bei der Auswertung der MRT-Bilder ist es für die Ärzt:innen oft schwierig, alterstypische von ersten krankhafte Erscheinungen zu unterscheiden, weil die Abweichungen sehr klein sein können.

Hier hat das Uniklinikum Tübingen zusammen mit einem KI-Entwickler eine Software namens AIRAmed entwickelt, mit der sich die kleinen Abweichungen in den MRT-Bildern auf der Basis künstlicher neuronale Netze erkennen lassen. Der Ansatz eignet sich zwar aufgrund der hohen Kosten von MRT-Untersuchungen nicht für ein großes populationsbasiertes Screening, kann aber bei entsprechenden Disposition oder bei einem konkreten Verdacht zur Früherkennung eingesetzt werden.

Ein anderer Ansatz zur Früherkennung von Alzheimer ist die Sprachanalyse, die ebenfalls auf KI basiert. Hier werden Audiodaten von Kognitionstests verwendet: Patient:innen sprechen kurze Texte nach, die Audiodaten werden von der KI auf typische Abweichungen (insbesondere auf die Dauer von Pausen) hin analysiert und ermittelt, ob die Person gesund ist oder ob sie bereits leichte kognitive Einschränkungen hat.

Das Machine-Learning-Modell kann in den Akustikdaten entsprechende Muster erkennen. Im Vergleich zur Früherkennung über MRT-Bilder ist dieses System günstiger, und der Test kann auch über Entfernungen hinweg durchgeführt werden. Ein prinzipielles Risiko besteht jedoch darin, dass das System auch auf andere Audioaufnahmen angewendet werden und so dafür genutzt werden könnte, Menschen unbemerkt und ohne ihr Einverständnis zu testen.

Diagnose: Entscheidungsunterstützung in der Bildgebung

In der Auswertung von bildgebenden Verfahren (zum Beispiel CT, MRT) sind KI-Anwendungen bereits etabliert. Ein Beispiel für eine KI-basierte Diagnoseunterstützung ist das von Siemens Healthineers entwickelte System »AI-Rad Companion«. Hier werden mit Hilfe von Deep Learning Auffälligkeiten in Bildern automatisch markiert. Die KI ist in der Regel dem radiologisch trainierten menschlichen Auge überlegen, sie kann eine Vielzahl von Bildern in kurzer Zeit auswerten und so die Ärzt:innen so bei diesen Routineaufgaben unterstützen.

Der Einsatz solcher Systeme wird voraussichtlich in Zukunft dazu führen, dass Radiolog:innen nur noch jene Bilder anschauen, bei denen die KI Auffälligkeiten festgestellt hat oder bei denen es Unsicherheiten gibt. Dies bedeutet, dass hier das Vertrauen in die Funktionsfähigkeit der Software und die Qualität der Erkennung sehr wichtig sind. Dazu gehört auch, dass die Software aufzeigt, mit welcher Sicherheit eine Auswertung getroffen wurde.

Diagnose: Symptomchecker mittels Chatbot

Ein anderes Beispiel im Bereich der Diagnose ist die App »Ada«, die im Dezember 2022 nach der MDR zertifiziert wurde. Hierbei handelt es sich um einen sogenannten Symptom-Checker, bei dem Nutzende Symptome eingeben und über einen Frage-Antwort-Dialog Hinweise auf mögliche Ursachen oder Erkrankungen bekommen können.

Der Anbieter wirbt auf seiner Website damit, dass »Ada« innerhalb von Minuten eine qualitativ hochwertige Symptomanalyse und sichere Empfehlungen ermögliche und neben häufigen Erkrankungen auch seltene Erkrankungen erkenne. Allerdings wird auch darauf verwiesen, dass es sich nicht um eine verbindliche Diagnose handelt, sondern lediglich um mögliche Ursachen und nächste Schritte.

Für eine erste Einschätzung von Symptomen oder für die Weiterleitung an die entsprechenden medizinischen Expert:innen kann die App sehr hilfreich sein. Bei der frei nutzbaren und über die App-Stores von Apple und Google downloadbaren Version stellen sich jedoch Datenschutzfragen, denn eine Verwendung der App ist nur über ein Konto bei Facebook, Instagram oder LinkedIn möglich. Damit sind die eingegebenen Daten nicht anonym, sondern mit individuellen Profilen verknüpft. »Ada« weist darauf hin, dass die Firma nicht dafür verantwortlich ist, wie Facebook oder andere Plattformen die eingegebenen Daten nutzen.

Öffentliche Gesundheit: Covid-19-Management

Im Bereich öffentliche Gesundheit wurde KI zuletzt intensiv für das Covid-19-Management eingesetzt. Ein Beispiel ist das von Biontech und der Firma Instadeep entwickelte KI-basierte Frühwarnsystem gefährlicher Covid-Mutationen. Dabei werden weltweit verfügbare Sequenzierungsdaten ausgewertet und Vorhersagen getroffen, wo sich die Mutation mit welcher Geschwindigkeit verbreiten wird. Durch die Verwendung von KI-Algorithmen soll das System in der Lage sein, Hochrisikovarianten des Corona-Virus zwei Monate früher zu identifizieren als herkömmliche Verfahren der WHO.

Während das Biontech/Instadeep-Verfahren auf nicht personenbezogenen Daten basiert, wurden während der Corona-Krise beispielsweise in China aber auch Apps eingesetzt, die mittels Gesichtserkennung oder der Auswertung von Mobilfunkdaten personenbezogen arbeiteten und es so ermöglichten, die App zur Überwachung von Aufenthaltsorten zu verwenden.

Therapie: Entscheidungsunterstützung bei der Therapie von Krebs

Der Bereich der Therapie ist im Vergleich zur Diagnose deutlich anspruchsvoller für KI-Systeme, weil nicht nur Auffälligkeiten oder Erkrankungen identifiziert werden müssen, sondern komplexere Entscheidungen getroffen werden müssen, die der ganzen gesundheitlichen Situation und der individuellen Lebenssituation der Patientin oder des Patienten gerecht werden müssen.

Ein Beispiel für ein KI-Projekt, bei dem diese Komplexität unterschätzt wurde, ist »Watson for Oncology« von IBM, mit dessen Hilfe personalisierte Krebstherapien identifiziert werden sollten. Dabei wurde die medizinische Evidenz in Form klinischer Studien mit der individuellen Patientenakte verglichen. Dort, wo es hohe Übereinstimmungen gab, wurden entsprechende Therapievorschläge gemacht, die ebenfalls aus den automatisch analysierten Studien abgeleitet wurden.

Der »Watson for Oncology« erzielte allerdings nur in dem Krankenhaus hohe Treffer, in dem das System trainiert wurde. In anderen Krankenhäusern war die Trefferquote deutlich geringer, was zu einer großen Enttäuschung der Hoffnungen des KI-Einsatzes in der Therapie geführt hat. Beispielsweise hat »Watson for Oncology« Behandlungen empfohlen, die entweder offensichtlich waren, die keinen Mehrwert brachten oder auch Behandlungen, die im »neuen« Setting nicht verfügbar waren.

Die Zeitschrift »IEEE-Spektrum« überschrieb 2019 einen Bericht über die Enttäuschung mit dem Titel »How IBM Watson overpromised and underdelivered on AI healthcare«. Tatsächlich hat IBM das Projekt Anfang 2022 eingestellt. Grund für die schlechte Performance war unter anderem, dass zu wenige (nur knapp über 100) echte Trainingsdaten und teilweise synthetische (fiktive) Daten verwendet wurden. Außerdem waren nur amerikanische medizinische Leitlinien berücksichtigt worden, die die Gegebenheiten in anderen Ländern nicht abbilden.

Therapie: Entscheidungsunterstützung bei der Therapie chronischer Erkrankungen

Ein Beispiel, das sich noch in der Entwicklung befindet, das aber insbesondere den Dialog mit den Patient:innen in den Vordergrund rückt und nicht auf eine automatisierte Therapieempfehlung setzt, ist die CKDN App (Chronic Kidney Disease Nephrologist's App), die bei chronischer Niereninsuffizienz zum Einsatz kommen kann.

Die App simuliert beziehungsweise prognostiziert den weiteren Krankheitsverlauf anhand persönlicher Gesundheitsdaten und Daten aus der medizinischen Forschung. Dabei zeigt sie Alternativen auf, die sich aus einem geänderten Verhalten ergeben können. Die App prognostiziert, wie sich die Werte verbessern, wenn sich die Patient:innen zum Beispiel anders ernähren oder mehr bewegen. Damit sollen Therapieüberlegungen unterstützt und der Dialog zwischen Patient:innen und Ärzt:innen strukturiert werden. Ziel ist, die Krankheitsprognose mit Hilfe von Verhaltensänderungen zu verbessern.

Pflege: Robotik

In der Pflege wird KI zum Beispiel im Kontext der Robotik diskutiert. Dabei geht es beispielsweise um Exoskelette, die Pflegekräfte bei schweren körperlichen Arbeiten unterstützen, unter anderem beim häufigen Heben und Umlagern von Pflegebedürftigen. Ein anderes Beispiel sind »soziale« Roboter wie die Pflegerobbe »Paro«, die ein Haustier simuliert und dementen Personen den Eindruck echter Interaktion vermitteln soll.

Der »intelligente Rollator« für die stationäre Pflege befindet sich noch in der Entwicklung: Im Forschungsprojekt »RABE«, das an der Hochschule Ravensburg-Weingarten durchgeführt wird, kommt ein Rollator zum Einsatz, der Menschen mit körperlichen oder kognitiven Einschränkungen dabei helfen soll, sich sicher und eigenständig im Pflegeheim zu bewegen. Der intelligente Rollator hat ein Navigationsgerät und einen Motor, der lokalisierbar ist, die Bewegungen unterstützt und auch autonom ans Bett fahren kann.

Obwohl das Ziel des Projekts die Erhöhung der Selbstbestimmung der Nutzenden ist, stellt sich die Frage, ob die Reduzierung menschlicher Kontakte nicht auch ein unerwünschter Nebeneffekt sein könnte. Inwieweit der Einsatz so eines Rollators als »gute« Pflege betrachtet wird, hängt sicher auch sehr von den individuellen Bedürfnissen ab.

Generell kann festgestellt werden, dass das Setting »Pflege« sehr komplex ist und noch viele Herausforderungen für den Einsatz von Robotik zu überwinden sind. Dies mag mit ein Grund dafür sein, warum es derzeit zwar einen großen Hype um die Robotik in der Pflege gibt, aber noch sehr wenige Anwendungen im praktischen Einsatz sind.

Rehabilitation: Training mit Exoskeletten

Ein Beispiel für KI in der medizinischen Rehabilitation ist die Verwendung eines Exoskeletts nach einem Schlaganfall. Das Exoskelett unterstützt die Patient:innen dabei, Bewegungen wieder zu erlernen, die durch den Schlaganfall verloren gegangen sind. Dazu tragen die Patient:innen unter physiotherapeutischer Anleitung eine EEG-Haube auf dem Kopf, die erkennt, wenn eine bestimmte Bewegung ausgeführt werden soll. Die Bewegung wird anschließend durch das Exoskelett unterstützt. Ziel ist es, dass die Patient:innen schon früher wieder Fähigkeiten zurückerlangen, als dies ohne diese Hilfestellung möglich wäre.

Neben den dargestellten KI-basierten Anwendungen, die dem Bereich der Medizinprodukte zugeordnet werden können, gibt es Anwendungen, die keine Medizinprodukte sind. Dazu zählen Gesundheits- und Fitnesstracker sowie KI-Assistenzsysteme in der beruflichen Rehabilitation.

Gesundheits- und Fitnesstracker wie »Fitbit« von Google oder die Smartwatch von Apple können unter anderem Bewegungen im Schlaf oder die Körpertemperatur überwachen, auf dieser Basis Empfehlungen abgeben und so zu einer bewussten und gesunden Lebensführung beitragen. Die Smartwatch von Apple kann in ihrer Premium-Version auch Unfälle erkennen und automatische Notrufe absetzen.

Gesundheits- und Fitnesstracker haben in letzter Zeit große Verbreitung gefunden. Ihre große Schwachstelle ist neben den fehlenden Standards der mangelnde Datenschutz: Die Stiftung Warentest hat 2020 verschiedene Fitnessapps einem Test unterzogen und ihnen beim Datenschutz kollektiv nur die Note »ausreichend« gegeben. Hauptkritikpunkt war, dass die Gesundheitsapps sensible Daten speichern, verarbeiten und zu Werbezwecken verwenden.

Auch in der Rehabilitation gibt es KI-basierte Anwendungen, die zwar keine zertifizierten und damit qualitätsgeprüften Medizinprodukte sind, die aber zur besseren Gesundheitsversorgung beitragen können. Ein Beispiel ist »EmpaT«, ein KI-basierter emotionssensitiver Assistent, der vom DFKI entwickelt wird und der Menschen mit psychischen Einschränkungen bei der Wiedereingliederung ins Berufsleben helfen soll, indem er zum Beispiel Bewerbungsgespräche simuliert.

Bei diesen Beispielen handelt es sich entweder um kommerzielle Produkte aus dem Fitness- und Wellnessbereich oder aus der sozialen Arbeit, die keine gesundheitsbezogenen Auflagen erfüllen müssen.

Chancen und Herausforderungen von KI im Gesundheitsbereich

Diese Übersicht der Einsatzgebiete von KI im Gesundheitsbereich kann nur andeuten, welche Chancen und Nutzen einerseits und welche Herausforderungen und Risiken andererseits es gibt. Eine genauere Befassung mit den genannten Beispielen zeigt positive und negative Wirkungen von KI auf, die in der folgenden Tabelle zusammengefasst sind.

Hervorgehoben sind die unserer Einschätzung nach übergeordneten Aspekte. Bei den Chancen sind dies Qualitätsverbesserungen, Kosteneinsparungen, Effizienzverbesserungen und Stärkung der Patientensouveränität. Bei den Risiken sind es falsche oder zweifelhafte Therapieempfehlungen.