CyberTipline des National Center for Missing and Exploited Children muss Technologie verbessern
Der CyberTipline des National Center for Missing and Exploited Children steht das Wasser bis zum Hals, und das nicht nur, weil sie sich mit den dunkelsten Ecken des Internets beschäftigt. Nein, es geht um viel mehr: Die Technologie des CyberTipline muss dringend verbessert werden, um mit der enormen Flut an KI-generierten kinderpornografischen Materialien Schritt zu halten.
Die Stanford University hat in einem neuen Bericht festgestellt, dass die Hinweislinie des CyberTipline, die als erste Verteidigungslinie gegen solche abscheulichen Inhalte im Internet fungiert, bereits jetzt Probleme hat, mit der hohen Anzahl von Anrufen klarzukommen. Im Jahr 2023 wurden satte 36,2 Millionen Berichte über kinderpornografisches Material eingereicht – ein Anstieg von 12 Prozent im Vergleich zum Vorjahr. Und wenn KI-generierte Inhalte weiterhin so stark verbreitet werden, wird sich die Situation nur noch weiter verschlimmern.
Die Hinweislinie erhält Berichte über eine manuelle Berichterstattungs-API von Online-Plattformen wie Facebook und Google. Allerdings besteht hier das Problem, dass nicht immer alle wichtigen Felder ausgefüllt sind. Da kann man sich schon mal fragen, ob die Leute beim Ausfüllen der Formulare einfach zu faul sind oder ob es an etwas anderem liegt. Stanford fand außerdem heraus, dass es in Tech-Unternehmen häufig einen schnellen Wechsel des Personals für die Inhaltsmoderation gibt, was zu einer mangelnden Konsistenz bei der Berichterstattung führt. Das ist ja wie eine Achterbahnfahrt für die Mitarbeiter!
Das National Center for Missing and Exploited Children, das größtenteils vom Kongress finanziert wird, hat es nicht leicht, mit anderen Vertrauens- und Sicherheitsteams in der Branche mitzuhalten. Die Gehälter sind niedriger und das Budget begrenzt. Da ist es kein Wunder, dass es schwierig ist, qualifizierte Mitarbeiter langfristig zu halten. Und als ob das nicht schon genug wäre, kämpft der CyberTipline auch noch damit, sich mit externen Datenquellen zu verknüpfen und den neuesten technologischen Fortschritten gerecht zu werden. Das ist ungefähr so, als ob man versucht, ein Rennen mit einem Schaukelpferd zu gewinnen.
Ein Beispiel für diese technologischen Einschränkungen ist, dass gemeldete Daten aufgrund rechtlicher Beschränkungen nur für 90 Tage auf den Servern gespeichert werden dürfen. Das ist deutlich weniger Zeit, als für rechtliche Schritte benötigt wird. Man könnte sagen, dass das so ist, als ob man versucht, den Marathon zu gewinnen, während man gleichzeitig versucht, sich die Schuhe zu binden. Keine leichte Aufgabe, das kann ich euch sagen.
Um das Ganze in den Griff zu bekommen, empfiehlt Stanford den Online-Plattformen, ihre Berichterstattungs-API zu verbessern und sicherzustellen, dass alle erforderlichen Informationen enthalten sind. Denn nur so können die Mitarbeiter der Hinweislinie die Fälle ordnungsgemäß verfolgen. Außerdem wird vorgeschlagen, dass das National Center for Missing and Exploited Children beim Kongress einen höheren Etat beantragt, um technische Experten einzustellen und die Technologie-Infrastruktur zu verbessern. Das klingt vernünftig, denn schließlich können wir nicht erwarten, dass sie mit Pfeil und Bogen gegen KI-generierte CSAM kämpfen.
Die steigende Anzahl von KI-generierten Nacktbildern im Internet und in Schulen ist ein weiterer Beweis dafür, dass das System bereits überlastet ist. Sogar Prominente wie Taylor Swift wurden Opfer von gefälschten Nacktbildern, die von KI erstellt wurden. Das ist wirklich bedenklich und zeigt, dass dringender Handlungsbedarf besteht.
Die Generalstaatsanwälte aller 50 Bundesstaaten haben den Kongress daher aufgefordert, eine Kommission zur Bekämpfung von KI-generiertem CSAM zu unterstützen. Denn nur wenn alle an einem Strang ziehen und die Technologie verbessert wird, können wir hoffen, dass wir dieser dunklen Seite des Internets die Stirn bieten können. Also, auf geht’s, liebe Tech-Experten, lasst uns dieses Problem gemeinsam angehen und dafür sorgen, dass das Internet ein sicherer Ort für alle wird.
Schlagwörter: CSAM + Stanford + Facebook
Wie bewerten Sie den Schreibstil des Artikels?