Forschungsprojekt XMANAI: Plattform macht das Innenleben industrieller Künstlicher Intelligenz transparent

Im Rahmen des europäischen Forschungsprojekts XMANAI haben Fraunhofer FOKUS und 14 weitere Partner eine Plattform entwickelt, um das Innenleben industrieller Künstlicher Intelligenz (KI) transparenter zu machen. Industrielle Anwendungen von KI werden immer häufiger eingesetzt, aber oft sind die Berechnungen und Entscheidungsprozesse für die Benutzer undurchsichtig. Dies führt zu einem Vertrauensdefizit.

Die XMANAI-Plattform ermöglicht es Mitarbeitenden, die Entscheidungsprozesse der KI nachvollziehbar zu machen. Durch interaktive Visualisierungen und Erläuterungen in natürlicher Sprache können auch Personen ohne umfangreiches Fachwissen über KI verstehen, welche Daten und Algorithmen bei den Berechnungen relevant sind und wie sie die KI beeinflussen. Das Ziel besteht darin, eine einfache und sichere Nutzung der verfügbaren Daten zu ermöglichen.

Im Rahmen des Projekts wurden verschiedene industrielle Anwendungsfälle untersucht, um die Funktionalität und Darstellung der Plattform zu validieren. Die Ergebnisse der vierjährigen Forschungsarbeit sind frei verfügbar und sollen dazu beitragen, industrielle Software-Anwendungen zu verbessern.

Das XMANAI-Projekt wurde von November 2020 bis April 2024 im Rahmen des Forschungsprogramms Horizon 2020 finanziert. Insgesamt waren 15 europäische Partner aus den Bereichen Wirtschaft und Wissenschaft, darunter Ford und Whirlpool, an dem Projekt beteiligt. Fraunhofer FOKUS übernahm die Rolle des Partners für das Management von Echtzeitdaten und fungierte als wissenschaftlicher Koordinator des Projekts.

Schlagwörter: XMANAI + Blackbox KI + Fraunhofer

Wie bewerten Sie den Schreibstil des Artikels?