Meta kämpft gegen Propagandakampagnen: KI-Manipulation auf Facebook und Instagram entdeckt

Meta, das Mutterunternehmen von Facebook und Instagram, hat in seinem aktuellen vierteljährlichen Bedrohungsbericht angekündigt, Maßnahmen ergriffen zu haben, um Propagandakampagnen auf seinen Plattformen zu bekämpfen. Eine dieser Kampagnen nutzte künstliche Intelligenz, um politische Diskussionen zu beeinflussen und den Eindruck einer breiteren Unterstützung bestimmter Standpunkte zu erzeugen.

Der Bericht von Meta zeigt auf, dass es verschiedene Kampagnen gab, die politische Erzählungen über aktuelle Ereignisse verbreiteten. Besonders erwähnt werden Kampagnen aus Israel und dem Iran, die sich positiv zur israelischen Regierung äußerten. Diese Netzwerke versuchten, politische Agenden weltweit zu manipulieren, indem sie gefälschte Konten auf Facebook und Instagram einsetzten. So sollten politische Bewegungen unterstützt, gefälschte Nachrichtenquellen gefördert oder Kommentare zu Beiträgen seriöser Nachrichtenorganisationen abgegeben werden.

Meta berichtet beispielsweise von einem Netzwerk aus China, das aus mehreren Dutzend Instagram- und Facebook-Konten, Seiten und Gruppen bestand. Diese wurden genutzt, um globale Sikh-Gemeinschaften zu beeinflussen. Eine andere Kampagne, die Israel zugeschrieben wird, verwendete über 500 Facebook- und Instagram-Konten, die sich als lokale jüdische Studenten, Afroamerikaner und besorgte Bürger ausgaben. Diese Konten lobten israelische Militäraktionen, diskutierten über Antisemitismus auf dem Campus und verbreiteten andere Inhalte.

Laut Meta wurden einige der von diesen beiden Netzwerken geteilten Inhalte wahrscheinlich mithilfe von generativen KI-Tools erstellt. In der China-basierten Kampagne wurden KI-generierte Bilder von den Konten geteilt, während die israelische Kampagne KI-generierte Kommentare veröffentlichte. Dennoch betont der Bericht, dass KI-gesteuerte Einflusskampagnen derzeit noch nicht raffiniert genug sind, um den bestehenden Erkennungssystemen zu entgehen.

Es ist keine Seltenheit, dass Einflusskampagnen auf Social-Media-Plattformen aufgedeckt werden. Im Mai dieses Jahres gab TikTok bekannt, dass es auf seiner Plattform zwölf solcher Netzwerke entdeckt und beeinträchtigt hat. Eines dieser Netzwerke wurde mit China in Verbindung gebracht.

Meta unternimmt weiterhin Anstrengungen, um gegen solche Propagandakampagnen vorzugehen und die Integrität seiner Plattformen zu schützen. Dies beinhaltet die Verbesserung der KI-Technologien zur Erkennung von manipulativen Inhalten sowie die verstärkte Zusammenarbeit mit externen Organisationen und Experten auf diesem Gebiet. Es bleibt jedoch eine Herausforderung, den Kampf gegen Einflusskampagnen auf Social-Media-Plattformen effektiv zu gestalten, da die Täter ständig neue Strategien entwickeln, um ihre Ziele zu erreichen.

Schlagwörter: Meta + China + Israel

Wie bewerten Sie den Schreibstil des Artikels?