Das Bundesamt f\u00fcr Sicherheit in der Informationstechnik (BSI) betrachtet die Auswirkungen von K\u00fcnstlicher Intelligenz (KI) auf die Sicherheit im Bereich der Informationstechnologie mit gro\u00dfer Ernsthaftigkeit. Dennoch sieht das BSI derzeit keinen Anlass f\u00fcr \u00fcbertriebene Besorgnis. In einem exklusiven Forschungspapier, das k\u00fcrzlich ver\u00f6ffentlicht wurde, besch\u00e4ftigt sich die deutsche Cybersicherheitsbeh\u00f6rde mit den bekannten Bedrohungsszenarien im Zusammenhang mit KI sowie den zu erwartenden Entwicklungen.<\/p>\n
Die Pr\u00e4sidentin des BSI, Claudia Plattner, erkl\u00e4rt, dass man in der aktuellen Bewertung der Auswirkungen von KI auf die Bedrohungslandschaft im Cyberraum davon ausgeht, dass es in absehbarer Zukunft keine signifikanten Fortschritte in der Entwicklung von KI geben wird, insbesondere von gro\u00dfen Sprachmodellen. Allerdings warnt das BSI davor, die Entwicklung nicht zu untersch\u00e4tzen.<\/p>\n
Laut den Cybersicherheitsexperten aus Bonn zeigen selbstlernende Sprachmodelle (LLM) bereits heute gewisse Auswirkungen, insbesondere im Bereich des Social Engineering und der Generierung von b\u00f6sartigem Code. Das BSI warnt davor, dass KI eine bisher unerreichte Qualit\u00e4t bei Phishing-Versuchen erm\u00f6glicht, bei denen technische Sicherheitsma\u00dfnahmen durch den menschlichen Kontakt mit Mitarbeitern oder Dienstleistern umgangen werden. Herk\u00f6mmliche Methoden zur Erkennung betr\u00fcgerischer Nachrichten sind daher nicht mehr ausreichend.<\/p>\n
In Bezug auf die automatisierte Erstellung von Schadcode gibt das BSI jedoch Entwarnung. Es gibt bisher keine KI, die eigenst\u00e4ndig fortschrittliche und bisher unbekannte Malware erstellen kann. Die Forschungsarbeiten konzentrieren sich haupts\u00e4chlich auf die automatisierte Anpassung von bereits existierender Malware. Das BSI stellt auch fest, dass bisher keine Tools verf\u00fcgbar sind, die den gesamten Prozess von der Zielauswahl bis zum Eindringen ins Zielsystem automatisieren k\u00f6nnen.<\/p>\n
Allerdings betont das BSI, dass die Anwendung von KI als vollautomatisches Angriffswerkzeug intensiv erforscht wird und weitere Projekte und Tools in diesem Bereich erwartet werden. Insbesondere selbstlernende Sprachmodelle und generative KI bieten vielversprechende Ans\u00e4tze.<\/p>\n
Bisher wird K\u00fcnstliche Intelligenz vor allem f\u00fcr bestimmte Teilbereiche aktiv genutzt, beispielsweise zur Kartierung der Systemlandschaft und potenzieller Schwachstellen. Der Einsatz von KI ist jedoch bereits bei der Umgehung etablierter Sicherheitsmechanismen erkennbar, beispielsweise bei Brute-Force-Angriffen auf passwortgesch\u00fctzte Zug\u00e4nge.<\/p>\n
Das BSI ist besorgt \u00fcber die Integration von Malware in KI-Modelle. Da immer mehr Organisationen und Unternehmen auf den Einsatz von KI dr\u00e4ngen, stellt dies ein ernsthaftes Problem dar. Es gibt bereits F\u00e4lle, bei denen sch\u00e4dlicher Code in trainierten Modellen versteckt ist, ohne die Funktionalit\u00e4t des Modells zu beeintr\u00e4chtigen.<\/p>\n
Das BSI stellt fest, dass die Verwendung von KI-gest\u00fctzten Tools zur Absicherung von Open-Source-Software entscheidend ist. Es wird jedoch keine allgemeine Schlussfolgerung dar\u00fcber gezogen, ob Open-Source-Produkte anf\u00e4lliger oder weniger anf\u00e4llig sind als Closed-Source-Produkte.<\/p>\n
Im Vergleich zu anderen Beh\u00f6rden gibt das BSI weniger alarmistische Einsch\u00e4tzungen ab. Das National Cyber Security Centre (NCSC) in Gro\u00dfbritannien hatte im Januar vor erheblichen Problemen in Bezug auf die Cybersicherheit gewarnt, die kurzfristig durch KI, insbesondere im Bereich der Ransomware, verursacht werden k\u00f6nnten.<\/p>\n
BSI-Pr\u00e4sidentin Plattner betont abschlie\u00dfend, dass angesichts des Fachkr\u00e4ftemangels eine Zusammenarbeit von Wirtschaft, Wissenschaft und Politik \u00fcber Landesgrenzen hinweg entscheidend ist.<\/p>\n
Schlagw\u00f6rter: BSI + KI + Claudia Plattner<\/p>\n","protected":false},"excerpt":{"rendered":"
Das Bundesamt f\u00fcr Sicherheit in der Informationstechnik (BSI) betrachtet die Auswirkungen von K\u00fcnstlicher Intelligenz (KI) auf die Sicherheit im Bereich der Informationstechnologie mit gro\u00dfer Ernsthaftigkeit. Dennoch sieht das BSI derzeit keinen Anlass f\u00fcr \u00fcbertriebene Besorgnis. In einem exklusiven Forschungspapier, das k\u00fcrzlich ver\u00f6ffentlicht wurde, besch\u00e4ftigt sich die deutsche Cybersicherheitsbeh\u00f6rde mit den...<\/p>\n","protected":false},"author":4,"featured_media":7198,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-7199","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/7199","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=7199"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/7199\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/7198"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=7199"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=7199"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=7199"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}