Aufsatz von Bernd Beckert erhält den Best Paper Award der FITCE/IEEE-Conference 2021

Der Aufsatz »Vertrauenswürdige KI: The state of play implementing Trustworthy AI.« von Dr. Bernd Beckert hat den Best Paper Award der FITCE/IEEE-Conference 2021 erhalten.

In dem Aufsatz geht es um den aktuellen Stand der Umsetzung vertrauenswürdiger KI (»trustworthy AI«). Anwendungen der Künstlichen Intelligenz können weitreichende gesellschaftliche Auswirkungen haben, weshalb spezifische Anforderungen beachtet werden sollten. Die Entwicklung und Umsetzung vertrauenswürdiger KI  erfordert nach der Definition der Europäischen Union die Beachtung folgender sieben Dimensionen:

• Vorrang menschlichen Handelns und menschlicher Aufsicht
  
• Robustheit und Sicherheit
  
• Privatsphäre und Datenqualitätsmanagement
  
• Transparenz
  
• Vielfalt, Nichtdiskriminierung und Fairness
  
• Rechernschaftspflicht
  
• Gesellschaftliches und ökologisches Wohlergehen

Um diese Anforderungen praktisch umzusetzen, gibt es inzwischen eine Reihe von Leitlinien, Checklisten und Gestaltungsvorschlägen. Allerdings, so das Fazit des Aufsatzes, fehlt es weiterhin an konkreten Beispielen und Best Practices für die Umsetzung.

Als Gründe für das Umsetzungsdefizit kommen Time-to-Market-Erwägungen in Frage sowie die Tatsache, dass die Implementierung vertrauenswürdiger KI zusätzliche Expertise und Governance-Strukturen erfordern, die sowohl für KI-anbietende als auch für KI-nutzende Unternehmen neu sind.

Der Aufsatz zeigt zwei Möglichkeiten auf, wie die Umsetzung vertrauenswürdiger KI künftig gelingen kann: Erstens müssen die vorhandenen Leitlinien besser an die Realität der Software-Ingenieure und -Ingenieurinnen und Managerinnen und Manager angepasst werden. Zweitens müssen im Entwicklungs- und Implementationsprozess so genannte Facilitators eingesetzt werden, das heißt Expert:innen, die mit Hilfe von Design- oder sozialwissenschaftlichen Methoden Anbieter- und Nutzerperspektiven verbinden können.

Der siebenseitige Aufsatz wurde auf der FITCE/IEEE-Conference am 29. September 2021 in Wien vorgetragen und auf der IEE Xplore-Platform veröffentlicht.

Die Arbeit ist im Kontext eines Miniprojekts der KI-Gruppe sowie des PRIDS-Projekts (BMBF) entstanden. Im Rahmen des PRIDS-Projekts spielt das Thema vertrauenswürdige KI eine zunehmend wichtige Rolle. Ansprechpartner für das Thema vertrauenswürdige KI sind Dr. Bernd Beckert, Dr. Michael Friedewald, Murat Karaboga, Greta Runge und Dirk Kuhlmann.