Überwachung von KI-Sicherheitsrisiken: Neuer Gesetzesvorschlag im Senat

Der US-Senat ist mal wieder fleißig und hat einen neuen Gesetzesvorschlag auf den Tisch gebracht. Dieses Mal geht es um die Überwachung von Sicherheitsrisiken im Zusammenhang mit künstlicher Intelligenz (KI). Die beiden Senatoren Mark Warner und Thom Tillis haben den sogenannten “Secure Artificial Intelligence Act” vorgestellt. Klingt ja schon mal vielversprechend, oder?

Der Gesetzesentwurf sieht vor, dass ein KI-Sicherheitszentrum bei der National Security Agency (NSA) eingerichtet wird. Dort soll sich dann alles um die Erforschung von Gegen-KI-Techniken drehen. Was sind Gegen-KI-Techniken, fragt ihr euch? Das sind Methoden, mit denen man das Manipulieren von KI-Systemen erlernen kann. Klingt irgendwie nach einem Katz-und-Maus-Spiel zwischen Mensch und Maschine, oder?

Um einen umfassenden Überblick über KI-Verstöße zu bekommen, sollen das National Institute of Standards and Technology (NIST) und die Cybersecurity and Infrastructure Security Agency (CISA) eine Datenbank von KI-Verstößen erstellen. Das beinhaltet auch Vorfälle, bei denen man knapp an einem Verstoß vorbeigeschrammt ist. So eine Art “Fast-Verstoß” also. Ich frage mich, ob es dann auch eine Kategorie “Fast-Knöllchen” geben wird.

Aber zurück zu den Gegen-KI-Techniken. Der Gesetzesentwurf von Warner und Tillis befasst sich konkret mit verschiedenen Techniken zur Bekämpfung von KI-Manipulation. Da hätten wir zum Beispiel die Datenvergiftung. Hier wird Code in die Daten eingefügt, die ein KI-Modell verarbeitet, um die Ausgabe des Modells zu verfälschen. Das ist so ähnlich wie wenn man jemandem einen Streich spielt und ihm statt einer Schokolade eine Zitrone unterjubelt. Nur halt in digitaler Form.

Dann gibt es noch die Ausweichangriffe. Bei dieser Technik werden die untersuchten Daten von KI-Modellen so stark verändert, dass das Modell total verwirrt ist. Das ist wie wenn man jemandem eine falsche Landkarte gibt und er dann völlig orientierungslos durch die Gegend irrt. Aber bitte nicht ausprobieren, es sei denn, ihr wollt Ärger bekommen.

Auch die Biden-Regierung hat das Thema KI-Sicherheit auf dem Schirm. In der AI-Exekutivanordnung wurde das NIST angewiesen, Richtlinien für das sogenannte “Red Teaming” zu erstellen. Dabei versuchen Entwickler absichtlich, KI-Modelle dazu zu bringen, auf Anfragen zu reagieren, auf die sie normalerweise nicht reagieren sollten. Klingt ein bisschen nach einem Verhör, oder? “Sagen Sie mal, Herr KI-Modell, warum haben Sie auf diese Frage geantwortet? Das war doch eindeutig ein Fangfrage!”.

Um die Sicherheit von KI-Modellen zu verbessern, haben Unternehmen wie Microsoft bereits Tools entwickelt, die die Integration von Sicherheitsmaßnahmen in KI-Projekte erleichtern. Das ist ja auch wichtig, schließlich wollen wir nicht, dass unsere KI-Freunde plötzlich Amok laufen und die Weltherrschaft an sich reißen. Das wäre doch etwas ungünstig.

Der Gesetzesentwurf von Warner und Tillis zeigt auf jeden Fall, dass das Thema KI-Sicherheit immer wichtiger wird. Mit dem KI-Sicherheitszentrum und der Datenbank von KI-Verstößen wollen die Senatoren dafür sorgen, dass Sicherheitsrisiken im Zusammenhang mit künstlicher Intelligenz besser überwacht und bekämpft werden können. Es bleibt abzuwarten, ob sich der Gesetzesvorschlag durchsetzt und ob es dann auch eine KI-Polizei geben wird. Ich stelle mir das schon lustig vor, wie kleine Roboter in Uniformen herumlaufen und Verkehrssünder zur Rechenschaft ziehen. Na, wer von euch hätte da schon das ein oder andere Knöllchen zu erwarten?

Schlagwörter: Mark Warner + Thom Tillis + NIST

Wie bewerten Sie den Schreibstil des Artikels?