Google I/O: KI-Wasserzeichen erkennen KI-Inhalte in Videos und Texten

Google hat heute auf der Entwicklerkonferenz Google I/O eine Reihe neuer KI-Modelle und -Tools vorgestellt. Eine der interessantesten Ankündigungen betrifft die Erweiterung der KI-Inhalts-Wasserzeichen- und Erkennungstechnologie des Unternehmens, um auf zwei neuen Medien zu arbeiten.

Der CEO von DeepMind, Demis Hassabis, gab auf der Konferenz sein Debüt und sprach nicht nur über die neuesten KI-Tools seines Teams, sondern auch über das verbesserte SynthID-Wasserzeichensystem. Diese aktualisierte Technologie ermöglicht es nun, Videos, die mit KI generiert wurden, sowie KI-generierten Text zu markieren.

Die Bedeutung von Wasserzeichen für KI-generierte Inhalte nimmt angesichts des wachsenden Missbrauchs von KI zu bösartigen Zwecken immer weiter zu. Bereits in der Vergangenheit wurden Wasserzeichen genutzt, um politische Fehlinformationen zu verbreiten, falsche Aussagen einer Person zuzuschreiben und nicht einvernehmlichen sexuellen Inhalt zu erstellen.

Im vergangenen August wurde SynthID als Instrument vorgestellt, um KI-generierte Bilder auf eine Weise zu kennzeichnen, die für das menschliche Auge nicht lesbar ist, aber vom System erkannt werden kann. Im Gegensatz zu anderen Wasserzeichensystemen wie C2PA, das kryptografische Metadaten zu KI-generierten Inhalten hinzufügt, verfolgt SynthID einen anderen Ansatz.

Google hat SynthID weiterentwickelt, um nun auch unhörbare Wasserzeichen in KI-generierte Musik einzufügen, die mithilfe des Lyria-Modells von DeepMind erstellt wurde. Diese Maßnahme ist nur eine von vielen KI-Sicherheitsvorkehrungen, die entwickelt werden, um den Missbrauch dieser Technologie zu bekämpfen.

Die Biden-Regierung hat Bundesbehörden angewiesen, Richtlinien zur Umsetzung solcher Vorkehrungen zu erstellen. Es ist wichtig, dass solche Technologien entwickelt werden, um den Missbrauch von KI zu verhindern und sicherzustellen, dass sie verantwortungsvoll eingesetzt wird.

Schlagwörter: SynthID + Googles DeepMind + Google

Wie bewerten Sie den Schreibstil des Artikels?