ELSA-Netzwerk macht Europa zum Vorreiter in sicherer künstlicher Intelligenz

Das ELSA-Netzwerk, auch bekannt als European Lighthouse on Secure and Safe AI, hat im Verlauf seines ersten Jahres entscheidende Schritte unternommen, um die Europäische Union zu einem führenden Anbieter von sicherer und vertrauenswürdiger künstlicher Intelligenz zu machen. Durch wegweisende Forschung, intensive Zusammenarbeit mit Vertretern der Industrie, eine strategische Ausrichtung der Forschung und hochrangige Politikberatung adressiert das expandierende Netzwerk auf umfassende Weise die dringenden Fragen, die sich im Zusammenhang mit künstlicher Intelligenz für die Gesellschaft ergeben.

Professor Dr. Mario Fritz, CISPA-Faculty und Koordinator von ELSA, äußert seine Begeisterung über die erzielten Fortschritte im ersten Jahr während des Treffens des Konsortiums zum einjährigen Jubiläum Ende September. Dieses initiale Jahr des gemeinsamen Austauschs von führenden Experten auf den Gebieten des maschinellen Lernens und der künstlichen Intelligenz markiert nur den Beginn einer vielversprechenden Entwicklung. Fritz betont, dass noch viele Maßnahmen ergriffen werden müssen, um künstliche Intelligenz widerstandsfähiger, sicherer und vertrauenswürdiger zu machen, damit sie zum Wohl der Gesellschaft genutzt werden kann.

ChatGPT und ähnliche Modelle sorgen für große Aufmerksamkeit. Ein Thema, das im ELSA-Netzwerk viele Forscher intensiv beschäftigt hat und weiterhin beschäftigen wird, sind große Sprachmodelle. Durch die Veröffentlichung von ChatGPT und anderen Chatbots wurden sie für die allgemeine Öffentlichkeit zugänglich gemacht. Fritz betont, dass die moderne Lerntechnologie nachhaltig und sicher zum Erfolg geführt werden muss. Bislang sind jedoch erhebliche Mängel in den Modellen erkennbar, wie wir feststellen konnten. Im Frühjahr gelang es Fritz und seinem Team in Zusammenarbeit mit CISPA-Faculty Prof. Dr. Thorsten Holz und dem Saarbrücker IT-Unternehmen sequire technology, kritische Schwachstellen aufzudecken, die eine Manipulation und Anfälligkeit der Modelle ermöglichen. Die Veröffentlichung ihres Papers führte unter anderem dazu, dass das deutsche Bundesamt für Sicherheit in der Informationstechnik (BSI) ein umfassendes Positionspapier mit dem Titel “Große KI-Sprachmodelle – Chancen und Risiken für Industrie und Behörden” zu diesem Thema verfasste.

Die NoEs (Networks of Excellence) haben sich ebenfalls strategisch aufgestellt, ähnlich wie ELSA, indem sie ihre intelligenten Köpfe vereinen. Gemeinsam haben sie eine Joint Research Agenda entwickelt, um den sicheren Einsatz von künstlicher Intelligenz zu fördern. ELSA konzentriert sich auf drei zentrale Herausforderungen: die Entwicklung von technisch robusten und sicheren KI-Systemen, die Schaffung einer datenschutzfreundlichen und robusten Umgebung für kollaboratives Lernen sowie die Entwicklung von Mechanismen zur menschlichen Kontrolle für einen ethischen und sicheren Einsatz von KI. ELSA konzentriert sich auf konkrete Anwendungsfälle in den Bereichen Gesundheit, autonomes Fahren, Robotik, Cybersicherheit, Medien und intelligente Dokumentenverarbeitung. Das ELSA-Netzwerk geht dabei einen grundlegenden, transparenten und interdisziplinären Weg. Interessierte erhalten durch die im November veröffentlichte strategische Forschungsagenda von ELSA einen detaillierten Einblick in die konkrete Arbeit des Netzwerks in Bezug auf diese Herausforderungen.

ELSA setzt Standards, um künstliche Intelligenz sicher auf die Straße zu bringen. Um die entwickelten Technologien und Methoden der ELSA-Forscher unter realen Bedingungen zu testen und ihre Einsatzfähigkeit zu bewerten, wurde im Jahr 2023 von ELSA eine Benchmarks-Plattform veröffentlicht. Durch diese Plattform werden Daten und Metriken innerhalb des Netzwerks ausgetauscht und Wettbewerbe zu den sechs ELSA USE-Cases veröffentlicht. Dadurch wird sichergestellt, dass das Netzwerk konkrete Fortschritte erzielt und kontinuierlich Forschungsaktivitäten mit realen Bedürfnissen und Anwendungen verbindet.

Des Weiteren hat ELSA im Mai eine Aufforderung an kleine und mittelständische Unternehmen sowie innovative Startups gerichtet, sich um Förderung zu bewerben und gemeinsam mit den ELSA-Forschern an Methoden, Benchmarks und Softwarelösungen zu arbeiten, um diese dann in der industriellen Anwendung umzusetzen. Ein Expertengremium hat vor Kurzem sechs Startups ausgewählt. Jedes ausgewählte Konsortiumsmitglied erhält über ELSA eine EU-Förderung in Höhe von etwa 60.000 Euro und arbeitet gemeinsam mit anderen Mitgliedern an konkreten Projekten. Im Januar 2024 wird ELSA bekanntgeben, welche vielversprechenden Unternehmen durch ihre Vorschläge im Industry Call überzeugt haben.

Es ist keine einfache Aufgabe, ein Netzwerk dieser Größe aufzubauen, aber der Auftakt ist erfolgreich gelungen. Jedoch wird deutlich, dass ELSA im Jahr 2023 ein enormes Potenzial besitzt, um erfolgreich die komplexen Herausforderungen moderner KI-Lösungen anzugehen. Battista Biggio, ELSA-Konsortiumsmitglied und Associate Professor an der Universität Cagliari sowie Mitbegründer des Cybersicherheitsunternehmens Pluribus One, betont, dass die Arbeit von ELSA im Bereich der sicheren künstlichen Intelligenz mit rasantem Tempo voranschreitet, insbesondere hinsichtlich des Testens, der Verifizierung und der zertifizierbaren Robustheit von KI. Jedoch erfordert es ebenso politischen und gesellschaftlichen Einsatz, um die Sicherheit von KI-Systemen als oberste Priorität auf die Agenda zu setzen.

Fritz betont, dass derzeit erhebliche Investitionen in die Weiterentwicklung künstlicher Intelligenz getätigt werden. Gleichzeitig argumentiert er, dass mindestens genauso viel, wenn nicht sogar deutlich mehr, in die Sicherheit dieser Technologien investiert werden sollte. Um dieses Ziel zu erreichen, sind kollektive Anstrengungen erforderlich. Das ELSA-Netzwerk hat im Jahr 2023 eindrucksvoll bewiesen, dass sich die Bemühungen lohnen.

ELSA ist ein virtuelles Zentrum für Exzellenz, das sich der Förderung von Forschung im Bereich sicherer und vertrauenswürdiger künstlicher Intelligenz widmet. Das umfangreiche und expandierende Netzwerk europäischer Spitzenexpert:innen für künstliche Intelligenz und maschinelles Lernen hat das Ziel, die Entwicklung und Implementierung fortschrittlichster KI-Lösungen in der Zukunft zu fördern und Europa zu einem weltweit führenden Zentrum für künstliche Intelligenz zu machen.

Schlagwörter: ELSA + Mario Fritz + KI

Wie bewerten Sie den Schreibstil des Artikels?