In einem spannenden Vortrag auf der Conference on Computer Vision and Pattern Recognition (CVPR 2025) in Nashville, Tennessee, stellten Forscher der Ruhr-Universit\u00e4t Bochum alarmierende Sicherheitsl\u00fccken im Bereich der KI-generierten Bilder \u00f6ffentlich dar. Das Thema Wasserzeichen, die bisher als zuverl\u00e4ssige Kennzeichnung f\u00fcr KI-Erzeugnisse galten, stand im Fokus dieses Vortrags. Die zunehmende Realit\u00e4tsn\u00e4he von Bildern, die mittels k\u00fcnstlicher Intelligenz generiert werden, macht es zunehmend schwierig, sie von echten Fotos zu unterscheiden. Um dieser Herausforderung entgegenzuwirken, wurden Wasserzeichen eingef\u00fchrt \u2013 ein digitaler Stempel, der den Ursprung des Bildes als KI-Generierung signalisiert.<\/p>\n
Die Bochumer Forscher demonstrierten jedoch, dass sich diese Wasserzeichen leichter manipulieren lassen, als bisher angenommen. Sie pr\u00e4sentierten zwei neue Angriffe, die die bestehende Sicherheitsarchitektur untergraben. Die erste Methode, die sogenannte Imprinting-Attack, erm\u00f6glicht es, das Wasserzeichen eines KI-Bildes auf ein echtes Foto zu \u00fcbertragen. Dadurch erh\u00e4lt das reale Foto quasi einen digitalen Fake-Stempel und wirkt somit, als w\u00e4re es selbst via KI generiert. Der zweite Angriff, der Reprompting-Angriff, nutzt die Funktionsweise von neuronalen Netzen aus. Ein mit Wasserzeichen versehenes Bild wird zur\u00fcck in den latenten Raum des Modells geschickt \u2013 eine Art digitale Zwischenebene \u2013 und anschlie\u00dfend mit einem neuen Prompt regeneriert. Aus dieser Regeneration entstehen v\u00f6llig neue Bilder, die trotzdem das urspr\u00fcngliche Wasserzeichen tragen. Beunruhigend an beiden Angriffen ist, dass sie nur ein einziges Referenzbild ben\u00f6tigen, das das Zielwasserzeichen enth\u00e4lt, um ihre Funktionsweise zu vollziehen.<\/p>\n
Die modell\u00fcbergreifende Flexibilit\u00e4t der Angriffe macht sie besonders gef\u00e4hrlich: Sie funktionieren sowohl auf \u00e4lteren Modellen wie UNet als auch auf den neuesten diffusion-basierten Systemen. Diese Angriffe untergraben somit nicht nur einzelne Systeme, sondern stellen ein grundlegendes Risiko f\u00fcr die gesamte KI-Bildgenerierung dar. Die Frage nach einer zuverl\u00e4ssigen Kennzeichnung von KI-Bildern stellt sich neu. Der bisherige Ansatz mit semantischen Wasserzeichen muss dringend \u00fcberdacht und verbessert werden, um zuk\u00fcnftig Vertrauen in die Authentizit\u00e4t von Bildern aus dem digitalen Raum zu gew\u00e4hrleisten.<\/p>\n
Schlagw\u00f6rter: CVPR + Nashville + Tennessee<\/p>\n","protected":false},"excerpt":{"rendered":"
In einem spannenden Vortrag auf der Conference on Computer Vision and Pattern Recognition (CVPR 2025) in Nashville, Tennessee, stellten Forscher der Ruhr-Universit\u00e4t Bochum alarmierende Sicherheitsl\u00fccken im Bereich der KI-generierten Bilder \u00f6ffentlich dar. Das Thema Wasserzeichen, die bisher als zuverl\u00e4ssige Kennzeichnung f\u00fcr KI-Erzeugnisse galten, stand im Fokus dieses Vortrags. Die zunehmende...<\/p>\n","protected":false},"author":6,"featured_media":13422,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-13423","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/13423","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=13423"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/13423\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/13422"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=13423"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=13423"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=13423"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}