Das ELSA-Netzwerk, auch bekannt als European Lighthouse on Secure and Safe AI, hat im Verlauf seines ersten Jahres entscheidende Schritte unternommen, um die Europ\u00e4ische Union zu einem f\u00fchrenden Anbieter von sicherer und vertrauensw\u00fcrdiger k\u00fcnstlicher Intelligenz zu machen. Durch wegweisende Forschung, intensive Zusammenarbeit mit Vertretern der Industrie, eine strategische Ausrichtung der Forschung und hochrangige Politikberatung adressiert das expandierende Netzwerk auf umfassende Weise die dringenden Fragen, die sich im Zusammenhang mit k\u00fcnstlicher Intelligenz f\u00fcr die Gesellschaft ergeben.<\/p>\n
Professor Dr. Mario Fritz, CISPA-Faculty und Koordinator von ELSA, \u00e4u\u00dfert seine Begeisterung \u00fcber die erzielten Fortschritte im ersten Jahr w\u00e4hrend des Treffens des Konsortiums zum einj\u00e4hrigen Jubil\u00e4um Ende September. Dieses initiale Jahr des gemeinsamen Austauschs von f\u00fchrenden Experten auf den Gebieten des maschinellen Lernens und der k\u00fcnstlichen Intelligenz markiert nur den Beginn einer vielversprechenden Entwicklung. Fritz betont, dass noch viele Ma\u00dfnahmen ergriffen werden m\u00fcssen, um k\u00fcnstliche Intelligenz widerstandsf\u00e4higer, sicherer und vertrauensw\u00fcrdiger zu machen, damit sie zum Wohl der Gesellschaft genutzt werden kann.<\/p>\n
ChatGPT und \u00e4hnliche Modelle sorgen f\u00fcr gro\u00dfe Aufmerksamkeit. Ein Thema, das im ELSA-Netzwerk viele Forscher intensiv besch\u00e4ftigt hat und weiterhin besch\u00e4ftigen wird, sind gro\u00dfe Sprachmodelle. Durch die Ver\u00f6ffentlichung von ChatGPT und anderen Chatbots wurden sie f\u00fcr die allgemeine \u00d6ffentlichkeit zug\u00e4nglich gemacht. Fritz betont, dass die moderne Lerntechnologie nachhaltig und sicher zum Erfolg gef\u00fchrt werden muss. Bislang sind jedoch erhebliche M\u00e4ngel in den Modellen erkennbar, wie wir feststellen konnten. Im Fr\u00fchjahr gelang es Fritz und seinem Team in Zusammenarbeit mit CISPA-Faculty Prof. Dr. Thorsten Holz und dem Saarbr\u00fccker IT-Unternehmen sequire technology, kritische Schwachstellen aufzudecken, die eine Manipulation und Anf\u00e4lligkeit der Modelle erm\u00f6glichen. Die Ver\u00f6ffentlichung ihres Papers f\u00fchrte unter anderem dazu, dass das deutsche Bundesamt f\u00fcr Sicherheit in der Informationstechnik (BSI) ein umfassendes Positionspapier mit dem Titel „Gro\u00dfe KI-Sprachmodelle – Chancen und Risiken f\u00fcr Industrie und Beh\u00f6rden“ zu diesem Thema verfasste.<\/p>\n
Die NoEs (Networks of Excellence) haben sich ebenfalls strategisch aufgestellt, \u00e4hnlich wie ELSA, indem sie ihre intelligenten K\u00f6pfe vereinen. Gemeinsam haben sie eine Joint Research Agenda entwickelt, um den sicheren Einsatz von k\u00fcnstlicher Intelligenz zu f\u00f6rdern. ELSA konzentriert sich auf drei zentrale Herausforderungen: die Entwicklung von technisch robusten und sicheren KI-Systemen, die Schaffung einer datenschutzfreundlichen und robusten Umgebung f\u00fcr kollaboratives Lernen sowie die Entwicklung von Mechanismen zur menschlichen Kontrolle f\u00fcr einen ethischen und sicheren Einsatz von KI. ELSA konzentriert sich auf konkrete Anwendungsf\u00e4lle in den Bereichen Gesundheit, autonomes Fahren, Robotik, Cybersicherheit, Medien und intelligente Dokumentenverarbeitung. Das ELSA-Netzwerk geht dabei einen grundlegenden, transparenten und interdisziplin\u00e4ren Weg. Interessierte erhalten durch die im November ver\u00f6ffentlichte strategische Forschungsagenda von ELSA einen detaillierten Einblick in die konkrete Arbeit des Netzwerks in Bezug auf diese Herausforderungen.<\/p>\n
ELSA setzt Standards, um k\u00fcnstliche Intelligenz sicher auf die Stra\u00dfe zu bringen. Um die entwickelten Technologien und Methoden der ELSA-Forscher unter realen Bedingungen zu testen und ihre Einsatzf\u00e4higkeit zu bewerten, wurde im Jahr 2023 von ELSA eine Benchmarks-Plattform ver\u00f6ffentlicht. Durch diese Plattform werden Daten und Metriken innerhalb des Netzwerks ausgetauscht und Wettbewerbe zu den sechs ELSA USE-Cases ver\u00f6ffentlicht. Dadurch wird sichergestellt, dass das Netzwerk konkrete Fortschritte erzielt und kontinuierlich Forschungsaktivit\u00e4ten mit realen Bed\u00fcrfnissen und Anwendungen verbindet.<\/p>\n
Des Weiteren hat ELSA im Mai eine Aufforderung an kleine und mittelst\u00e4ndische Unternehmen sowie innovative Startups gerichtet, sich um F\u00f6rderung zu bewerben und gemeinsam mit den ELSA-Forschern an Methoden, Benchmarks und Softwarel\u00f6sungen zu arbeiten, um diese dann in der industriellen Anwendung umzusetzen. Ein Expertengremium hat vor Kurzem sechs Startups ausgew\u00e4hlt. Jedes ausgew\u00e4hlte Konsortiumsmitglied erh\u00e4lt \u00fcber ELSA eine EU-F\u00f6rderung in H\u00f6he von etwa 60.000 Euro und arbeitet gemeinsam mit anderen Mitgliedern an konkreten Projekten. Im Januar 2024 wird ELSA bekanntgeben, welche vielversprechenden Unternehmen durch ihre Vorschl\u00e4ge im Industry Call \u00fcberzeugt haben.<\/p>\n
Es ist keine einfache Aufgabe, ein Netzwerk dieser Gr\u00f6\u00dfe aufzubauen, aber der Auftakt ist erfolgreich gelungen. Jedoch wird deutlich, dass ELSA im Jahr 2023 ein enormes Potenzial besitzt, um erfolgreich die komplexen Herausforderungen moderner KI-L\u00f6sungen anzugehen. Battista Biggio, ELSA-Konsortiumsmitglied und Associate Professor an der Universit\u00e4t Cagliari sowie Mitbegr\u00fcnder des Cybersicherheitsunternehmens Pluribus One, betont, dass die Arbeit von ELSA im Bereich der sicheren k\u00fcnstlichen Intelligenz mit rasantem Tempo voranschreitet, insbesondere hinsichtlich des Testens, der Verifizierung und der zertifizierbaren Robustheit von KI. Jedoch erfordert es ebenso politischen und gesellschaftlichen Einsatz, um die Sicherheit von KI-Systemen als oberste Priorit\u00e4t auf die Agenda zu setzen.<\/p>\n
Fritz betont, dass derzeit erhebliche Investitionen in die Weiterentwicklung k\u00fcnstlicher Intelligenz get\u00e4tigt werden. Gleichzeitig argumentiert er, dass mindestens genauso viel, wenn nicht sogar deutlich mehr, in die Sicherheit dieser Technologien investiert werden sollte. Um dieses Ziel zu erreichen, sind kollektive Anstrengungen erforderlich. Das ELSA-Netzwerk hat im Jahr 2023 eindrucksvoll bewiesen, dass sich die Bem\u00fchungen lohnen.<\/p>\n
ELSA ist ein virtuelles Zentrum f\u00fcr Exzellenz, das sich der F\u00f6rderung von Forschung im Bereich sicherer und vertrauensw\u00fcrdiger k\u00fcnstlicher Intelligenz widmet. Das umfangreiche und expandierende Netzwerk europ\u00e4ischer Spitzenexpert:innen f\u00fcr k\u00fcnstliche Intelligenz und maschinelles Lernen hat das Ziel, die Entwicklung und Implementierung fortschrittlichster KI-L\u00f6sungen in der Zukunft zu f\u00f6rdern und Europa zu einem weltweit f\u00fchrenden Zentrum f\u00fcr k\u00fcnstliche Intelligenz zu machen.<\/p>\n
Schlagw\u00f6rter: ELSA + Mario Fritz + KI<\/p>\n","protected":false},"excerpt":{"rendered":"
Das ELSA-Netzwerk, auch bekannt als European Lighthouse on Secure and Safe AI, hat im Verlauf seines ersten Jahres entscheidende Schritte unternommen, um die Europ\u00e4ische Union zu einem f\u00fchrenden Anbieter von sicherer und vertrauensw\u00fcrdiger k\u00fcnstlicher Intelligenz zu machen. Durch wegweisende Forschung, intensive Zusammenarbeit mit Vertretern der Industrie, eine strategische Ausrichtung der...<\/p>\n","protected":false},"author":4,"featured_media":2996,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-2997","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/2997","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2997"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/2997\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/2996"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2997"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2997"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2997"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}