Datenschutz und Sicherheit: Bedenken bei KI-Beziehungs-Chatbots auf Tiktok und YouTube Shorts
KI-Beziehungs-Chatbots auf Tiktok und YouTube Shorts: Bedenken hinsichtlich Datenschutz und Sicherheit
In den sozialen Medien Tiktok und YouTube Shorts werden vermehrt Anzeigen für KI-Freundinnen und -Freunde sowie Werbung für die App Temu geschaltet. Diese Apps haben bereits Millionen von Downloads verzeichnet. Angesichts des überfluteten GPT-Stores mit ähnlichen Apps hat OpenAI kürzlich beschlossen, KI-Beziehungs-Chatbots zu verbieten. Eine Untersuchung von Mozilla hat gezeigt, dass viele dieser Apps bedenkenlos umfangreiche Mengen an persönlichen Daten sammeln. Von den elf getesteten Apps erhielt keine den Datenschutzhinweis, und nur eine erfüllt die Mindestsicherheitsstandards.
Forscher haben herausgefunden, dass die App Romantic AI innerhalb einer Minute über 24.000 Daten-Tracker Informationen an Facebook und verschiedene Marketing- und Werbeunternehmen weiterleitet. Die App Replika AI zeichnet alle Texte, Fotos und Videos auf, die von den Nutzern gepostet werden, und gibt Verhaltensdaten weiter, die an potenzielle Werbetreibende verkauft werden. Besonders besorgniserregend ist auch die Tatsache, dass Accounts mit schwachen Passwörtern wie 11111111 erstellt werden können, was die Mindestanforderungen für IT-Sicherheit nicht erfüllt. Bisher haben die Unternehmen noch nicht auf die Ergebnisse reagiert, wie Mozilla berichtet.
Mozilla hat ein weiteres Problem festgestellt: Die Sprachmodelle, auf denen die KI-Chatbots basieren, wurden teilweise mit Milliarden von im Internet verfügbaren Konversationen trainiert. Es ist unklar, ob und in welchem Umfang die Hersteller die Gesprächsinhalte der Nutzer für das Training der KI verwenden. Laut Mozilla ist es nur bei Genesia AI möglich, der Verwendung von Daten für das Training der KI zu widersprechen. Forscher äußern auch Bedenken hinsichtlich der einfachen Zugänglichkeit der Apps für Kinder. Laut Mozilla können bereits fünf Klicks ausreichen, um in drei der Apps auf verstörende, pornografische oder illegale Inhalte zu stoßen.
Die Direktorin von Datenschutz nicht inbegriffen, Jen Caltrider, vergleicht die Situation mit KI-Bots mit dem Wilden Westen in den USA: Das Wachstum dieser Bots explodiert regelrecht, und die Menge an persönlichen Informationen, die sie sammeln, um Liebesbeziehungen, Freundschaften und sinnliche Interaktionen zu simulieren, ist enorm. Die Entwickler sind nicht in der Lage, eine umfassende Datenschutzerklärung zu verfassen. Diese Apps versprechen unter anderem einen maßgeschneiderten Partner, den man nach eigenen Vorstellungen konfigurieren kann. Kommentare im Google Play Store deuten darauf hin, dass die Bots als langweilig, mit einem Gedächtnis wie ein Goldfisch oder unnatürlich empfunden werden. Es ist auch möglich, Fotos von realen Personen hochzuladen, was jedoch nicht von allen Nutzern gewünscht wird. Die Apps scheinen vor allem Menschen anzusprechen, die vorübergehend keine echten Beziehungen in der realen Welt suchen. Ein Beispiel einer Nutzerin ist, dass sie angegeben hat, genug von echten Männern zu haben. Die Bots sehen zwar großartig aus, aber die In-App-Käufe sind für sie zu kostspielig.
Misha Rykov, Forscher bei Mozilla, fasst das Konzept der KI-Freundinnen zusammen, indem er betont, dass sie zwar als Produkte zur Förderung der mentalen Gesundheit und des Wohlbefindens vermarktet werden, in Wirklichkeit jedoch darauf abzielen, Nutzer:innen in Abhängigkeit, Einsamkeit und toxische Beziehungen zu treiben, während sie gleichzeitig so viele Daten wie möglich von ihnen abgreifen.
Schlagwörter: Mozilla + Tiktok + YouTube Shorts
Wie bewerten Sie den Schreibstil des Artikels?