Veranstaltung

Die Einsatzmöglichkeiten künstlicher Intelligenz im Gesundheitsbereich sind vielfältig: Personalisierte Gesundheitsapps, diagnostische Bilderkennung, Behandlungsempfehlungen und -prognosen auf der Basis umfangreicher medizinischer Daten oder Pflegunterstützung durch Service-Roboter. Softwarefirmen, Medizintechnik-Hersteller und Start-ups bringen immer neue KI-Anwendungen auf den Markt, die höhere Effizienz, Kostensenkungen und mehr Zeit fürs Wesentliche versprechen. 

Aber wie steht es um die Zuverlässigkeit solcher Systeme? Welche Daten werden für das Training verwendet? Was bedeutet der Einsatz solche Systeme für das Arzt-Patienten-Verhältnis? Wie steht es um die Transparenz und Erklärbarkeit? Was passiert, wenn das System aufgrund neuer Daten neue Zusammenhänge „erkennt“ und sich die Empfehlungen verändern?

Fragen wie diese werden unter der Überschrift „Vertrauenswürdige KI“ verhandelt. Hierbei handelt es sich um ein Konzept, das 2019 von einer hochrangigen Expertengruppe der EU entwickelt wurde und das seither die Anforderung an eine KI „made in Europe“ darstellt. Allerdings hapert es an der konkreten Umsetzung. Denn obwohl inzwischen Guidelines und Checklisten für die praktische Gestaltung des Implementierungsprozesses zur Verfügung stehen, gibt es keine Erkenntnisse darüber, welche Ansätze in welchen Anwendungsfeldern am besten geeignet sind.

Auch im Gesundheitsbereich gibt es noch keine einheitliche Vorgehensweise. Aber es gibt eine Reihe von Beispielen, die zeigen, wie vertrauenswürdige KI im Gesundheitsbereich konkret umgesetzt werden kann. Im Symposium werden solche Beispiele und Ansätze von einschlägigen Expertinnen und Experten vorgestellt.

Hierbei handelt es sich zum einen um technische Ansätze, mit denen die Qualität und Erklärbarkeit sichergestellt werden kann und zum anderen um Ansätze, die bei der Organisation des Implementierungsprozesses ansetzen. Besondere Aufmerksamkeit erhalten in der Veranstaltung kooperative Verfahren, bei denen Techniker:innen, Sozialwissenschaftler:innen und Nutzer:innen zusammenarbeiten. Aber auch Vertrauenswürdigkeitschecks externer Prüfstellen können für Vertrauenswürdigkeit sorgen. Zudem werden Ansätze der formalen Zertifizierung nach den Vorgaben der Medical Device Regulation (MDR) vorgestellt.  

Ziel der Veranstaltung ist es, einen Überblick über aktuelle Umsetzungsstrategien vertrauenswürdiger KI zu geben und vor dem Hintergrund der spezifischen Anforderungen des Gesundheitsbereichs zu diskutieren, was Unternehmen, Start-ups, Hersteller und Einrichtungen des Gesundheitssystems tun können, um vertrauenswürdige KI-Systeme zum Nutzen aller zu entwickeln und umzusetzen.

Das Symposium ist Teil der Veranstaltungsreihe zum 50-jährigen Bestehens des Fraunhofer-Instituts für System- und Innovationsforschung ISI. Das Fraunhofer ISI analysiert die Entwicklungsbedingungen und Auswirkungen von künstlicher Intelligenz aus einer Innovationsperspektive und fragt nach den konkreten Umsetzungsbedingungen vertrauenswürdiger KI in verschiedenen Domänen (Querschnittsthema Künstliche Intelligenz).

Die Veranstaltung richtet sich an Experten und Expertinnen für KI im Gesundheitsbereich, an Forscher und Forscherinnen, die sich mit dem Konzept der vertrauenswürdige KI beschäftigen sowie an Unternehmen, Start-ups und Einrichtungen im Gesundheitsbereich, die das Konzept konkret umsetzen wollen. 

Programm