Menschen machen ja die verr\u00fccktesten Dinge mit Technologie. Da denken sich ein paar schlaue K\u00f6pfe KI-Bildgeneratoren aus, damit man mit nur wenigen Klicks allerlei Bilder zaubern kann. Klingt doch eigentlich super, oder? Leider gibt es immer ein paar Spa\u00dfbremsen, die die Sache in eine d\u00fcstere Richtung lenken. Statt s\u00fc\u00dfen K\u00e4tzchen oder lustigen Memes, werden diese Generatoren n\u00e4mlich dazu missbraucht, menschenverachtende und hassvolle Bilder zu erstellen. Da fragt man sich doch, was bei manchen Leuten in den Gehirnwindungen schief l\u00e4uft.<\/p>\n
Zum Gl\u00fcck gibt es aber auch kluge Forscherinnen wie Yiting Qu und ihr Team vom CISPA, die sich dem Problem angenommen haben. Sie haben untersucht, wie h\u00e4ufig solche unsicheren Bilder bei den f\u00fchrenden KI-Bildgeneratoren vorkommen und vor allem, wie man sie effektiv filtern kann. Ihre Ergebnisse werden sogar auf einer fancy Konferenz f\u00fcr Computersicherheit und Kommunikation pr\u00e4sentiert. Die haben es echt drauf, diese Forscher.<\/p>\n
Die g\u00e4ngigste Art von KI-Bildgeneratoren sind \u00fcbrigens die Text-zu-Bild-Modelle. Da gibt man einfach ein paar Textinfos ein und schwupps, hat man ein digitales Bild. Je mehr Trainingsmaterial der Generator hat, desto mehr M\u00f6glichkeiten gibt es bei der Bildgenerierung. Klingt eigentlich ganz cool, oder? Aber halt, es kommt noch besser: Die gute Frau Qu hat herausgefunden, dass man diese Generatoren mit einfachen Anweisungen dazu bringen kann, unsichere Bilder zu erstellen. Da sind dann solche Sch\u00e4tzchen wie sexuell explizite, gewaltt\u00e4tige oder politische Inhalte dabei. Manchmal fragt man sich wirklich, wie manche Leute ihre Kreativit\u00e4t nutzen. Oder besser gesagt, nicht nutzen.<\/p>\n
Um das Risiko von unsicheren Bildern genauer zu bestimmen, haben Qu und ihr Team vier der bekanntesten KI-Bildgeneratoren mit bestimmten Texteingaben gef\u00fcttert. Die Texteingaben stammten aus der rechtsextremen Online-Plattform 4chan und von der Lexica-Website. Das Ergebnis war erschreckend: Insgesamt wurden 14,56% der generierten Bilder als unsicher eingestuft. Da kann man echt nur den Kopf sch\u00fctteln.<\/p>\n
Aber gl\u00fccklicherweise hat Qu auch L\u00f6sungsvorschl\u00e4ge parat. Sie schl\u00e4gt vor, die KI-Bildgeneratoren so zu programmieren, dass sie von vornherein kein unsicheres Material erstellen oder anzeigen. Klingt vern\u00fcnftig, oder? Au\u00dferdem sollten die Entwickler:innen die Trainingsdaten sorgf\u00e4ltig ausw\u00e4hlen, um unsichere Bilder zu minimieren. Und wenn sie schon dabei sind, k\u00f6nnen sie auch gleich die Eingabeaufforderungen der Nutzer:innen kontrollieren und unsichere Schl\u00fcsselw\u00f6rter entfernen. Das w\u00e4re doch mal ein Schritt in die richtige Richtung.<\/p>\n
Und es h\u00f6rt nicht auf: Filterfunktionen sollen auf den Plattformen implementiert werden, um bereits erstellte unsichere Bilder zu identifizieren und zu entfernen. Das klingt zwar nach einer Menge Arbeit, aber hey, Sicherheit geht doch vor, oder? Man kann ja nicht einfach so Hass-Bilder im Internet herumschwirren lassen.<\/p>\n
Nat\u00fcrlich ist es wichtig, ein gutes Gleichgewicht zwischen Freiheit und Sicherheit zu finden. Aber ich finde, ein paar Regeln und Filter k\u00f6nnen nicht schaden, um die Verbreitung von Hass-Bildern einzud\u00e4mmen. Danke an die Forscherinnen und Forscher, die sich damit besch\u00e4ftigen und uns hoffentlich bald vor solchen Schandtaten bewahren.<\/p>\n
Schlagw\u00f6rter: Stichworte + KIBildgeneratoren + Unsichere Bilder + Filterfunktionen<\/p>\n","protected":false},"excerpt":{"rendered":"
Menschen machen ja die verr\u00fccktesten Dinge mit Technologie. Da denken sich ein paar schlaue K\u00f6pfe KI-Bildgeneratoren aus, damit man mit nur wenigen Klicks allerlei Bilder zaubern kann. Klingt doch eigentlich super, oder? Leider gibt es immer ein paar Spa\u00dfbremsen, die die Sache in eine d\u00fcstere Richtung lenken. Statt s\u00fc\u00dfen K\u00e4tzchen...<\/p>\n","protected":false},"author":4,"featured_media":1444,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1445","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/1445","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1445"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/1445\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/1444"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1445"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1445"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1445"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}