Der JIH freute sich über das große Interesse und die angeregten Diskussionen im Rahmen unseres Workshops »Unkontrollierbare KI« auf der KI-Campus-Stage in Heilbronn.

Die Sorge, die Kontrolle über KI zu verlieren, beschäftigt die Menschheit schon lange im Zusammenhang mit der fortschreitenden Entwicklung intelligenter Systeme. Über philosophische Ansätze und die Visionen aus den zahlreichen Science-Fiction-Universen hinausgehend, verfolgt der JIH eine wissenschaftliche, möglichst realitätsnahe Betrachtung dieser Problemstellung sowie möglicher Entwicklungspfade.

Nach einer kurzen Einführung führten wir in unserem Workshop inspirierende Gespräche über mögliche Einflussfaktoren und wie diese zusammenwirken könnten, sodass es schließlich zum Verlust der Kontrolle über ein KI-System kommen könnte. Die Gedanken führten teils allerdings gar nicht allzu weit in die Zukunft: KI-unterstützte Deep-Fakes und deren Einsatz zum Zwecke der Desinformation sind bereits heute ein großes Problem und dies könnte, so sahen das auch unsere Teilnehmenden, bereits als Kontrollverlust betrachtet werden. Allerdings können KI-Systeme auch im kleineren Rahmen zur Irreführung von Menschen missbraucht werden, z.B. durch Manipulation von Trainingsdaten (Poisoning Attack).

Verantwortungsvoller Umgang mit der Technologie (Responsible AI) sowie angemessener Schutz der Systeme (KI Sicherheit) sind deshalb wichtiger denn je. Der Joint Innovation Hub unterstützt seine Auftraggeber:innen aus Wirtschaft, Politik, Verwaltung und Zivilgesellschaft bei den Themen Innovation, Digitalisierung & KI, Nachhaltigkeit und strategische Vorausschau.