Verbesserung der Vertrauenswürdigkeit kritischer Systeme mit KI: ZHAW und FHNW sind Teil des EU-HORIZON-Projekts AI4REALNET

Das EU-Projekt AI4REALNET ist eine Zusammenarbeit des ZHAW-Zentrums für Künstliche Intelligenz (CAI), dem ZHAW-Institut für Datenanalyse und Prozessgestaltung (IDP), der Hochschule für Angewandte Psychologie FHNW sowie der SBB und mehreren internationalen Universitäten und Industriepartnern. Damit bringt AI4REALNET eine Fülle von Fachwissen aus acht Ländern zusammen und wurde mit drei anderen Projekten im Rahmen einer wettbewerbsintensiven europäischen Ausschreibung aus 114 Einreichungen ausgewählt.

ZHAW und FHNW gemeinsam für eine menschenzentrierte und robuste KI

Kritische Infrastrukturnetze für Mobilität oder Elektrizität werden in der Regel von Menschen betrieben, doch zunehmend wird die menschliche Expertise durch Steuerungs- und Überwachungssoftware und verschiedene Automatisierungsgrade ergänzt. «Da wir es mit sensiblen Infrastrukturen zu tun haben, ist der Einsatz sehr hoch. Die KI-Systeme müssen zuverlässig sein, damit die kritischen Anwendungen nicht gefährdet werden», sagt Ricardo Chavarriaga vom CAI. Aus diesem Grund wird ein Team der ZHAW mit Thilo Stadelmann, Manuel Renold und Julia Usher eine leistungsfähige Methode, das sogenannte Reinforcement Learning, implementieren, die sich an Herausforderungen anpasst. Gleichzeitig beschäftigt sich ein Team bestehend aus Christoph Heitz, Ricardo Chavarriaga und dem Doktoranden Wolfgang Stefani – betreut von Teresa Scantamburlo von der Universität Venedig – mit der Frage, wie der ethische Aspekt des Zusammenspiels von Mensch und KI im Kontext kritischer Infrastrukturen formalisiert und angegangen werden kann. Die Herausforderungen für die Zusammenarbeit zwischen Mensch und KI ergeben sich beispielsweise aus der zunehmenden Unsicherheit aufgrund von Wetter, Alter der Anlagen oder Nachfrage.

Für das Projektteam der Hochschule für Angewandte Psychologie FHNW, bestehend aus Andrina Eisenegger, Samira Hamouche und Toni Wäfler, steht das Forschungsziel «Co-Learning» im Fokus. Es geht darum zu verstehen, wie Menschen und KI miteinander interagieren und voneinander lernen können. Toni Wäfler, Professor für Arbeits- und Organisationspsychologie und Projektleiter auf Seiten der FHNW, sagt dazu: «Aus psychologischer Perspektive gilt es zu analysieren, wie die Spezialist*innen heute arbeiten. Welche Fähigkeiten und Bedürfnisse zeichnen sie aus? Daraus lässt sich ableiten, wie KI gewinnbringend in ihre Arbeitsprozesse integriert werden kann.»

Robuster Betrieb für Bahn, Luftverkehr und Energie

Das Hauptziel von AI4REALNET ist es, einen übergreifenden multidisziplinären Ansatz zu entwickeln und KI in industrierelevanten Anwendungsfällen zu testen und zu bewerten. Das Projektteam wird neu entstehende KI-Algorithmen, bestehende Open-Source-KI-freundliche digitale Umgebungen, sozio-technisches Design von KI-basierten Entscheidungssystemen und Mensch-Maschine-Interaktion (HMI) kombinieren, um den Betrieb von Netzinfrastrukturen in Echtzeit und im Vorhersagemodus zu verbessern. Die Forschungsaspekte werden entlang dreier kritischer Infrastrukturen entwickelt, deren virtuelle und physische Vermögenswerte, Systeme und Netze in Europa als lebenswichtig angesehen werden und deren Unterbrechung eine lähmende Wirkung auf die Gesellschaft hätte. Diese Infrastrukturen stammen aus den Sektoren Energie (Stromnetz) und Mobilität (Schienen- und Luftverkehrsmanagement), zwei der fünf in den europäischen nationalen KI-Strategien festgelegten Schwerpunktsektoren. Zu den Projektpartnern gehören daher Eisenbahnunternehmen wie die SBB und die Deutsche Bahn sowie Flugsicherungsdienste in verschiedenen Ländern.

Bessere Entscheidungsfindung durch Mensch-KI-Kollaboration

Die gegenseitige Ergänzung von Mensch und KI birgt viele Chancen. Beispielsweise kann künstliche Intelligenz menschliche Schwächen kompensieren, und umgekehrt. Damit dieser Ansatz funktioniert, sollten technische Innovationen auch vom Menschen her gedacht werden. «Gerade bei interdisziplinären Projekten ist die fachliche Perspektive der angewandten Psychologie von Anfang an relevant, um Lösungen zu entwickeln, die für den Menschen nachhaltig praktikabel und umsetzbar sind», so Toni Wäfler. Für Ricardo Chavarriaga besteht die Vision des Projekts AI4REALNET darin, die Koexistenz von menschlicher Steuerung und KI-basierter Automatisierung auf verschiedenen Ebenen zu erforschen - von der vollständigen menschlichen Steuerung mit KI-Unterstützung bis hin zur mitlernenden und vertrauenswürdigen KI-basierten Steuerung. «Bei sicherheitskritischen Anwendungen werden KI-Systeme traditionell trainiert, getestet und dann eingefroren, so dass sie sich nicht verändern können. Wir wollen Systeme entwickeln, die sich mit der Zeit anpassen und verbessern können. Dabei ist der Einbezug der psychologischen Perspektive essenziell, um zu verstehen, wie aus dem Zusammenwirken von Mensch, Technik und Organisation ein bleibender Mehrwert geschaffen werden kann. Das Projekt zielt also darauf ab, den Menschen zu befähigen, seine Leistung zu verbessern und ein höheres Mass an Zuverlässigkeit und Sicherheit kritischer Infrastrukturen zu erreichen.»

Weitere Informationen

• Zur offiziellen Webseite des Projekts AI4REALNET.
• Projekt-Webseite der Hochschule für Angewandte Psychologie FHNW.