Angreifer k\u00f6nnen Systeme mit k\u00fcnstlicher Intelligenz (KI) absichtlich verwirren oder sogar sabotieren und somit f\u00fcr jede Menge Chaos sorgen. Das haben Informatiker des National Institute of Standards and Technology (NIST) und externe Experten in einer k\u00fcrzlich ver\u00f6ffentlichten \u00dcbersicht \u00fcber relevante Angriffe herausgefunden. Das ist nat\u00fcrlich keine gute Nachricht, vor allem wenn so viele unserer Gadgets und Dienste heutzutage auf KI basieren. Aber hey, niemand hat behauptet, dass die Technologie perfekt ist, oder?<\/p>\n
Die Autoren der Studie betonen jedoch, dass es derzeit keine absolut sichere Verteidigung gibt, auf die Entwickler von KI-Techniken vertrauen k\u00f6nnen. Die meisten KI-Modelle basieren auf maschinellem Lernen und sind daher anf\u00e4llig f\u00fcr Manipulationen. Die Studie behandelt verschiedene Aspekte von Angriffen auf KI-Systeme, einschlie\u00dflich Umgehung, Datenschutz, Missbrauch und Angriffe, die sich auf die Trainingsdaten auswirken.<\/p>\n
Ein besonders interessanter Fall, den die Autoren untersuchen, ist der Jailbreak-Prompt „Do Anything Now“ (DAN) f\u00fcr den Sprachassistenten ChatGPT. Mit diesem Prompt kann der Sprachassistent die eingebauten Sicherheitsrichtlinien ignorieren. Das ist nat\u00fcrlich ein gefundenes Fressen f\u00fcr jeden, der Chaos liebt.<\/p>\n
Die Autoren stellen au\u00dferdem die Vor- und Nachteile offener und geschlossener KI-Modelle gegen\u00fcber. Offene KI-Modelle sind zug\u00e4nglicher und k\u00f6nnen von vielen Menschen verwendet und verbessert werden, aber sie sind auch anf\u00e4lliger f\u00fcr Angriffe. Geschlossene Modelle sind hingegen weniger anf\u00e4llig, aber es besteht die Gefahr, dass sie von den Entwicklern kontrolliert und missbraucht werden.<\/p>\n
Laut Alina Oprea, einer der Co-Autorinnen und Professorin an der Northeastern University, sind die meisten dieser Angriffe vergleichsweise einfach durchf\u00fchrbar und erfordern nur minimale Kenntnisse des KI-Systems und begrenzte F\u00e4higkeiten des Angreifers. Das ist ein bisschen beunruhigend, denn das bedeutet, dass selbst jemand wie ich, der von Technik nicht viel Ahnung hat, in der Lage w\u00e4re, KI-Systeme zu manipulieren. Na toll.<\/p>\n
Apostol Vassilev, Projektleiter beim NIST, betont, dass es trotz aller aktuellen Risikominderungsstrategien keine zuverl\u00e4ssige M\u00f6glichkeit gibt, Angriffe zu verhindern. Er ruft die Forschergemeinschaft dazu auf, sich den Kopf zu zerbrechen und fortschrittlichere Verteidigungsstrategien zu entwickeln. Die Absicherung von KI-Algorithmen stellt immer noch theoretische Herausforderungen dar, die bisher nicht erfolgreich bew\u00e4ltigt wurden. Also, liebe Forscher, legt los!<\/p>\n
Die Ver\u00f6ffentlichung der Studie ist Teil der Bem\u00fchungen des NIST, die Entwicklung von vertrauensw\u00fcrdiger K\u00fcnstlicher Intelligenz zu f\u00f6rdern. Denn letztendlich ist es wichtig, dass wir uns darauf verlassen k\u00f6nnen, dass unsere Gadgets und Dienste sicher sind. Niemand will schlie\u00dflich von einem KI-System sabotiert werden, w\u00e4hrend er versucht, ein leckeres Rezept zu finden oder den Weg zum n\u00e4chsten Caf\u00e9 zu suchen. Also, weiter so, NIST! Macht unsere KI sicherer und st\u00e4rkt das Vertrauen in diese Technologie.<\/p>\n
Schlagw\u00f6rter: NIST-Projektleiter Apostol Vassilev + KI + NIST<\/p>\n","protected":false},"excerpt":{"rendered":"
Angreifer k\u00f6nnen Systeme mit k\u00fcnstlicher Intelligenz (KI) absichtlich verwirren oder sogar sabotieren und somit f\u00fcr jede Menge Chaos sorgen. Das haben Informatiker des National Institute of Standards and Technology (NIST) und externe Experten in einer k\u00fcrzlich ver\u00f6ffentlichten \u00dcbersicht \u00fcber relevante Angriffe herausgefunden. Das ist nat\u00fcrlich keine gute Nachricht, vor allem...<\/p>\n","protected":false},"author":4,"featured_media":3000,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-3001","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/3001","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=3001"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/3001\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/3000"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=3001"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=3001"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=3001"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}