Ehemaliger Sportdirektor festgenommen wegen Betrug mit KI-Stimmenklon-Service

Ein ehemaliger Sportdirektor einer High School in Baltimore wurde verhaftet und beschuldigt, einen KI-Stimmenklon-Service genutzt zu haben, um den Schulleiter der Schule zu belasten. Die Polizei von Baltimore hält die Aufnahme, auf der angeblich rassistische und antisemitische Kommentare des Schulleiters zu hören sind, für eine Fälschung.

Laut dem Baltimore Banner konnten Experten, die sowohl vom Baltimore Banner als auch von der Polizei von Baltimore hinzugezogen wurden, feststellen, dass die im Januar in den sozialen Medien verbreitete Aufnahme einen monotonen Ton, ungewöhnlich klare Hintergrundgeräusche und das Fehlen von regelmäßigen Atemgeräuschen oder Pausen aufweist. Diese Merkmale führten zeitweise zur Suspendierung des Schulleiters Eric Eiswert.

Die Polizei von Baltimore konnte die Aufnahme bis zu Dazhon Darien zurückverfolgen, einem früheren Sportdirektor an der Schule, dessen Name auch in dem Audioclip erwähnt wurde. Es wird behauptet, dass Darien auf die Computer der Schule zugegriffen hat, um nach OpenAI-Tools zu suchen. Es ist jedoch unklar, auf welcher KI-Stimmenplattform Darien angeblich agierte.

In den letzten Jahren hat das Interesse an KI-gesteuerter Stimmenklontechnologie zugenommen, da die Dienste immer besser darin werden, menschenähnlicher zu klingen. Allerdings haben diese Anwendungen auch zu Problemen für Einzelpersonen geführt. Ein Beispiel ist die politische Partei von Imran Khan, dem ehemaligen Premierminister von Pakistan, der derzeit inhaftiert ist. Während des Wahlkampfs nutzte seine Partei ElevenLabs, eine weit verbreitete kommerziell erhältliche Plattform zur Generierung von Text-zu-Sprache, um seine Stimme zu replizieren.

Es wurde auch eine Verbindung zwischen zwei Unternehmen aus Texas und einem betrügerischen Robocall hergestellt, der vorgab, Präsident Joe Biden zu sein und die Menschen dazu aufforderte, nicht zu wählen. Als Reaktion darauf hat die Bundeskommunikationskommission im Februar die Nutzung von KI-Robocalls untersagt.

Die betrügerische Verwendung von KI hat auch dazu geführt, dass das Lied „Heart on My Sleeve“ von einem falschen Drake erstellt wurde. Angesichts dieser Vorfälle hat OpenAI im März beschlossen, seine Plattform zur Text-zu-Sprache-Generierung, Voice Engine, nicht der Öffentlichkeit zugänglich zu machen. Aufgrund mangelnder Sicherheitsvorkehrungen steht der Service, der lediglich eine 15-minütige Audioaufnahme benötigt, um die Stimme einer Person zu klonen, nur einer begrenzten Anzahl von Forschern zur Verfügung.

Um solche Vorfälle zu verhindern, haben US-Gesetzgeber mehrere Gesetzesentwürfe wie den „No Fakes Act“ und den „No AI Fraud Act“ vorgelegt. Diese sollen verhindern, dass Technologieunternehmen das Gesicht, die Stimme oder den Namen einer Person ohne deren ausdrückliche Zustimmung nutzen dürfen.

Schlagwörter: Banner + Dazhon Darien + Baltimore

Wie bewerten Sie den Schreibstil des Artikels?