Neues KI-Tool von TrueMedia.org erkennt Deepfakes mit 90% Genauigkeit – Unterstützung für US-Wahlen

Die gemeinnützige Organisation TrueMedia.org hat am Dienstag ein KI-Tool zur Identifizierung von Deepfakes veröffentlicht. In Zusammenarbeit mit Forschern, Technologieanbietern und Laboren wurde ein Deepfake-Erkennungstool entwickelt, das mehr als 90 Prozent der manipulierten Bilder, Audio- und Videoaufnahmen identifizieren kann. Angemeldete Benutzer haben die Möglichkeit, falsche Informationen in sozialen Medien zu erkennen und zu markieren.

Das Tool ist derzeit für Regierungsbeamte, Faktenprüfer, Wahlkampfmitarbeiter, Universitäten, gemeinnützige Organisationen und akkreditierte Nachrichtenorganisationen in den USA verfügbar. Es richtet sich an verschiedene politische Ausrichtungen, von progressiv bis konservativ und allem dazwischen. Vor der US-Präsidentschaftswahl können Hinweise auf Desinformationen auf Plattformen wie TikTok, X (ehemals Twitter), Mastodon, YouTube, Reddit, Instagram, Google Drive oder Facebook entdeckt werden. Um eine Identifizierung vorzunehmen, genügt es, die entsprechende URL einzugeben.

TrueMedia.org beschreibt das Tool als äußerst präzise und benutzerfreundlich. Es basiert auf einem bisher nicht öffentlich zugänglichen KI-Modell, das auf KI-Technologie beruht und bisher nicht verfügbar war. Die Veröffentlichung erfolgt zu einem Zeitpunkt, an dem die Verbreitung von generativer Künstlicher Intelligenz die Manipulation von Bildern, Audio-, Video- und Textinhalten erleichtert und die Anzahl der Deepfakes stark zunimmt.

TrueMedia.org hat das Ziel, Nachrichtenredaktionen in ganz Amerika bei ihrer Berichterstattung über Wahlen zu unterstützen. Laut Dr. Oren Etzioni, dem Gründer von TrueMedia.org, soll das Tool den Redaktionen dabei helfen, Deepfakes zu erkennen und ihre Verbreitung zu stoppen.

„Unsere Verantwortung besteht darin, so vielen Journalisten wie möglich zu unterstützen, da Redaktionen immer weniger Personal haben, die Deadlines immer kürzer werden und die Flut gefälschter Inhalte in den sozialen Medien exponentiell ansteigt“, so Etzioni.

Der Fokus des Tools liegt nicht auf der Unterstützung eines spezifischen Kandidaten oder einer bestimmten Agenda, sondern darauf, Journalisten ein hochmodernes Tool zur Verfügung zu stellen, um Fälschungen zu erkennen. TrueMedia.org hat vor den bevorstehenden US-Wahlen bereits ein vermeintliches Foto entlarvt, auf dem die Verhaftung von Donald Trump oder Präsident Biden zusammen mit hochrangigen Militärs zu sehen war, als Fälschung. In beiden Situationen wurden deutliche Anzeichen für eine Manipulation entdeckt.

Die Identifizierung von Deepfakes kann je nach Inhalt eine gewisse Zeit in Anspruch nehmen, insbesondere bei Bildern, auf denen viele Personen dicht beieinanderstehen. Während Unternehmen wie Anthropic, Google, Meta und OpenAI die Fortschritte bei der Entwicklung von KI-Systemen vorantreiben, setzen sie sich gleichzeitig dafür ein, potenzielle Schäden durch diese Technologien einzudämmen. Gemäß einem Bericht der New York Times haben Anthropic, Google, Meta und OpenAI angekündigt, ihre künstliche Intelligenz-Dienste im Zusammenhang mit Wahlen einzuschränken oder deutlich zu kennzeichnen. Im Monat Februar haben 20 Technologieunternehmen, zu denen Amazon, Microsoft, TikTok und X gehören, eine freiwillige Vereinbarung unterzeichnet, um sicherzustellen, dass betrügerische KI-Inhalte die Wahlen nicht stören.

Schlagwörter: TrueMedia.org + TikTok + X

Wie bewerten Sie den Schreibstil des Artikels?