Der US-Senat ist mal wieder flei\u00dfig und hat einen neuen Gesetzesvorschlag auf den Tisch gebracht. Dieses Mal geht es um die \u00dcberwachung von Sicherheitsrisiken im Zusammenhang mit k\u00fcnstlicher Intelligenz (KI). Die beiden Senatoren Mark Warner und Thom Tillis haben den sogenannten „Secure Artificial Intelligence Act“ vorgestellt. Klingt ja schon mal vielversprechend, oder?<\/p>\n
Der Gesetzesentwurf sieht vor, dass ein KI-Sicherheitszentrum bei der National Security Agency (NSA) eingerichtet wird. Dort soll sich dann alles um die Erforschung von Gegen-KI-Techniken drehen. Was sind Gegen-KI-Techniken, fragt ihr euch? Das sind Methoden, mit denen man das Manipulieren von KI-Systemen erlernen kann. Klingt irgendwie nach einem Katz-und-Maus-Spiel zwischen Mensch und Maschine, oder?<\/p>\n
Um einen umfassenden \u00dcberblick \u00fcber KI-Verst\u00f6\u00dfe zu bekommen, sollen das National Institute of Standards and Technology (NIST) und die Cybersecurity and Infrastructure Security Agency (CISA) eine Datenbank von KI-Verst\u00f6\u00dfen erstellen. Das beinhaltet auch Vorf\u00e4lle, bei denen man knapp an einem Versto\u00df vorbeigeschrammt ist. So eine Art „Fast-Versto\u00df“ also. Ich frage mich, ob es dann auch eine Kategorie „Fast-Kn\u00f6llchen“ geben wird.<\/p>\n
Aber zur\u00fcck zu den Gegen-KI-Techniken. Der Gesetzesentwurf von Warner und Tillis befasst sich konkret mit verschiedenen Techniken zur Bek\u00e4mpfung von KI-Manipulation. Da h\u00e4tten wir zum Beispiel die Datenvergiftung. Hier wird Code in die Daten eingef\u00fcgt, die ein KI-Modell verarbeitet, um die Ausgabe des Modells zu verf\u00e4lschen. Das ist so \u00e4hnlich wie wenn man jemandem einen Streich spielt und ihm statt einer Schokolade eine Zitrone unterjubelt. Nur halt in digitaler Form.<\/p>\n
Dann gibt es noch die Ausweichangriffe. Bei dieser Technik werden die untersuchten Daten von KI-Modellen so stark ver\u00e4ndert, dass das Modell total verwirrt ist. Das ist wie wenn man jemandem eine falsche Landkarte gibt und er dann v\u00f6llig orientierungslos durch die Gegend irrt. Aber bitte nicht ausprobieren, es sei denn, ihr wollt \u00c4rger bekommen.<\/p>\n
Auch die Biden-Regierung hat das Thema KI-Sicherheit auf dem Schirm. In der AI-Exekutivanordnung wurde das NIST angewiesen, Richtlinien f\u00fcr das sogenannte „Red Teaming“ zu erstellen. Dabei versuchen Entwickler absichtlich, KI-Modelle dazu zu bringen, auf Anfragen zu reagieren, auf die sie normalerweise nicht reagieren sollten. Klingt ein bisschen nach einem Verh\u00f6r, oder? „Sagen Sie mal, Herr KI-Modell, warum haben Sie auf diese Frage geantwortet? Das war doch eindeutig ein Fangfrage!“.<\/p>\n
Um die Sicherheit von KI-Modellen zu verbessern, haben Unternehmen wie Microsoft bereits Tools entwickelt, die die Integration von Sicherheitsma\u00dfnahmen in KI-Projekte erleichtern. Das ist ja auch wichtig, schlie\u00dflich wollen wir nicht, dass unsere KI-Freunde pl\u00f6tzlich Amok laufen und die Weltherrschaft an sich rei\u00dfen. Das w\u00e4re doch etwas ung\u00fcnstig.<\/p>\n
Der Gesetzesentwurf von Warner und Tillis zeigt auf jeden Fall, dass das Thema KI-Sicherheit immer wichtiger wird. Mit dem KI-Sicherheitszentrum und der Datenbank von KI-Verst\u00f6\u00dfen wollen die Senatoren daf\u00fcr sorgen, dass Sicherheitsrisiken im Zusammenhang mit k\u00fcnstlicher Intelligenz besser \u00fcberwacht und bek\u00e4mpft werden k\u00f6nnen. Es bleibt abzuwarten, ob sich der Gesetzesvorschlag durchsetzt und ob es dann auch eine KI-Polizei geben wird. Ich stelle mir das schon lustig vor, wie kleine Roboter in Uniformen herumlaufen und Verkehrss\u00fcnder zur Rechenschaft ziehen. Na, wer von euch h\u00e4tte da schon das ein oder andere Kn\u00f6llchen zu erwarten?<\/p>\n
Schlagw\u00f6rter: Mark Warner + Thom Tillis + NIST<\/p>\n","protected":false},"excerpt":{"rendered":"
Der US-Senat ist mal wieder flei\u00dfig und hat einen neuen Gesetzesvorschlag auf den Tisch gebracht. Dieses Mal geht es um die \u00dcberwachung von Sicherheitsrisiken im Zusammenhang mit k\u00fcnstlicher Intelligenz (KI). Die beiden Senatoren Mark Warner und Thom Tillis haben den sogenannten „Secure Artificial Intelligence Act“ vorgestellt. Klingt ja schon mal...<\/p>\n","protected":false},"author":4,"featured_media":7290,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-7291","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/7291","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=7291"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/7291\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/7290"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=7291"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=7291"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=7291"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}