Deepfake-Pornos: Suchmaschinen haben Schwierigkeiten, Inhalte zu filtern

Deepfake-Pornos, also pornografische Videos, in denen das Gesicht einer Person mittels künstlicher Intelligenz auf den Körper einer anderen Person übertragen wird, sind ein wachsendes Problem im Internet. Besonders besorgniserregend ist dabei, dass diese Videos auch Prominente und sogar Minderjährige betreffen können. Suchmaschinen wie Google und Bing haben offensichtlich Schwierigkeiten, solche Inhalte aus ihren Suchergebnissen zu filtern, obwohl Google bereits seit einigen Jahren versucht, das Problem einzudämmen.

Eine Untersuchung des US-Senders NBC hat gezeigt, dass sowohl Google als auch Bing bei der Suche nach bekannten Persönlichkeiten oder Begriffen wie “Deepfake” oder “Fake Nudes” sofort entsprechende gefälschte Bilder anzeigen oder Plattformen verlinken, auf denen solche Inhalte zu finden sind. Bei 34 von 36 untersuchten Frauen wurden gefälschte Pornobilder entdeckt. Es gibt einen florierenden Markt für solche Bilder, und es existieren zahlreiche Apps und Programme, die solche Services zur Verfügung stellen.

Immerhin hat Bing in seiner neueren Version einen Chatbot integriert, der darauf hinweist, dass Deepfake-Pornos unethisch sind und keine entsprechenden Bilder oder Links anzeigt. Bei Google haben die Opfer von Deepfakes die Möglichkeit, die Löschung der Bilder zu beantragen. Dafür steht ein Formular zur Verfügung. Bilder, die explizit sind, die Person zeigen und nicht aus kommerziellen Gründen veröffentlicht wurden, können entfernt werden. Der Suchmaschinenanbieter ist gesetzlich dazu verpflichtet, solche Inhalte zu entfernen, seit der Einführung des Digital Services Act (DSA).

Organisationen wie Hate Aid setzen sich aktiv für eine verschärfte Gesetzesregelung ein und haben bereits eine Petition beim Digitalministerium eingereicht. Sie fordern, dass Anbieter von Deepfake-fähigen Apps verpflichtet werden, Nacktfilter einzuführen. Zudem sollte der Vertrieb von Deepfake-Pornos bestraft werden und App-Stores sollten Anbieter blockieren, die solche Inhalte ermöglichen. Trotz entsprechender Richtlinien im Play Store hat NBC mindestens eine App identifiziert, die nicht entfernt wurde.

Google betont bereits seit 2019, dass Deepfakes als ernstzunehmendes gesellschaftliches Problem betrachtet werden sollten und dass das Unternehmen daran arbeitet, Detektoren für solche Inhalte zu entwickeln. Die Untersuchung von NBC hat gezeigt, dass auch bei Bing Deepfake-Pornos gefunden wurden, bei denen die Gesichter minderjähriger Disney-Stars in die Videos integriert wurden. Ein Vertreter von Microsoft verweist auf das bereitgestellte Meldeformular, das auch von Bing für solche Vorfälle genutzt werden kann. Generell sind Inhalte wie Deepfake-Pornos auf den Plattformen von Microsoft untersagt.

Es bleibt zu hoffen, dass die Bemühungen von Google, Microsoft und anderen Unternehmen, dieses Problem einzudämmen, erfolgreich sind und dass eine verschärfte Gesetzesregelung den Vertrieb von Deepfake-Pornos eindämmen kann. Denn die Auswirkungen für die Betroffenen können verheerend sein.

Schlagwörter: Google + NBC + Bing

Wie bewerten Sie den Schreibstil des Artikels?