BSI nimmt KI-Sicherheit ernst, warnt aber vor übertriebener Besorgnis

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) betrachtet die Auswirkungen von Künstlicher Intelligenz (KI) auf die Sicherheit im Bereich der Informationstechnologie mit großer Ernsthaftigkeit. Dennoch sieht das BSI derzeit keinen Anlass für übertriebene Besorgnis. In einem exklusiven Forschungspapier, das kürzlich veröffentlicht wurde, beschäftigt sich die deutsche Cybersicherheitsbehörde mit den bekannten Bedrohungsszenarien im Zusammenhang mit KI sowie den zu erwartenden Entwicklungen.

Die Präsidentin des BSI, Claudia Plattner, erklärt, dass man in der aktuellen Bewertung der Auswirkungen von KI auf die Bedrohungslandschaft im Cyberraum davon ausgeht, dass es in absehbarer Zukunft keine signifikanten Fortschritte in der Entwicklung von KI geben wird, insbesondere von großen Sprachmodellen. Allerdings warnt das BSI davor, die Entwicklung nicht zu unterschätzen.

Laut den Cybersicherheitsexperten aus Bonn zeigen selbstlernende Sprachmodelle (LLM) bereits heute gewisse Auswirkungen, insbesondere im Bereich des Social Engineering und der Generierung von bösartigem Code. Das BSI warnt davor, dass KI eine bisher unerreichte Qualität bei Phishing-Versuchen ermöglicht, bei denen technische Sicherheitsmaßnahmen durch den menschlichen Kontakt mit Mitarbeitern oder Dienstleistern umgangen werden. Herkömmliche Methoden zur Erkennung betrügerischer Nachrichten sind daher nicht mehr ausreichend.

In Bezug auf die automatisierte Erstellung von Schadcode gibt das BSI jedoch Entwarnung. Es gibt bisher keine KI, die eigenständig fortschrittliche und bisher unbekannte Malware erstellen kann. Die Forschungsarbeiten konzentrieren sich hauptsächlich auf die automatisierte Anpassung von bereits existierender Malware. Das BSI stellt auch fest, dass bisher keine Tools verfügbar sind, die den gesamten Prozess von der Zielauswahl bis zum Eindringen ins Zielsystem automatisieren können.

Allerdings betont das BSI, dass die Anwendung von KI als vollautomatisches Angriffswerkzeug intensiv erforscht wird und weitere Projekte und Tools in diesem Bereich erwartet werden. Insbesondere selbstlernende Sprachmodelle und generative KI bieten vielversprechende Ansätze.

Bisher wird Künstliche Intelligenz vor allem für bestimmte Teilbereiche aktiv genutzt, beispielsweise zur Kartierung der Systemlandschaft und potenzieller Schwachstellen. Der Einsatz von KI ist jedoch bereits bei der Umgehung etablierter Sicherheitsmechanismen erkennbar, beispielsweise bei Brute-Force-Angriffen auf passwortgeschützte Zugänge.

Das BSI ist besorgt über die Integration von Malware in KI-Modelle. Da immer mehr Organisationen und Unternehmen auf den Einsatz von KI drängen, stellt dies ein ernsthaftes Problem dar. Es gibt bereits Fälle, bei denen schädlicher Code in trainierten Modellen versteckt ist, ohne die Funktionalität des Modells zu beeinträchtigen.

Das BSI stellt fest, dass die Verwendung von KI-gestützten Tools zur Absicherung von Open-Source-Software entscheidend ist. Es wird jedoch keine allgemeine Schlussfolgerung darüber gezogen, ob Open-Source-Produkte anfälliger oder weniger anfällig sind als Closed-Source-Produkte.

Im Vergleich zu anderen Behörden gibt das BSI weniger alarmistische Einschätzungen ab. Das National Cyber Security Centre (NCSC) in Großbritannien hatte im Januar vor erheblichen Problemen in Bezug auf die Cybersicherheit gewarnt, die kurzfristig durch KI, insbesondere im Bereich der Ransomware, verursacht werden könnten.

BSI-Präsidentin Plattner betont abschließend, dass angesichts des Fachkräftemangels eine Zusammenarbeit von Wirtschaft, Wissenschaft und Politik über Landesgrenzen hinweg entscheidend ist.

Schlagwörter: BSI + KI + Claudia Plattner

Wie bewerten Sie den Schreibstil des Artikels?