KI-Beziehungs-Chatbots auf Tiktok und YouTube Shorts: Bedenken hinsichtlich Datenschutz und Sicherheit<\/p>\n
In den sozialen Medien Tiktok und YouTube Shorts werden vermehrt Anzeigen f\u00fcr KI-Freundinnen und -Freunde sowie Werbung f\u00fcr die App Temu geschaltet. Diese Apps haben bereits Millionen von Downloads verzeichnet. Angesichts des \u00fcberfluteten GPT-Stores mit \u00e4hnlichen Apps hat OpenAI k\u00fcrzlich beschlossen, KI-Beziehungs-Chatbots zu verbieten. Eine Untersuchung von Mozilla hat gezeigt, dass viele dieser Apps bedenkenlos umfangreiche Mengen an pers\u00f6nlichen Daten sammeln. Von den elf getesteten Apps erhielt keine den Datenschutzhinweis, und nur eine erf\u00fcllt die Mindestsicherheitsstandards.<\/p>\n
Forscher haben herausgefunden, dass die App Romantic AI innerhalb einer Minute \u00fcber 24.000 Daten-Tracker Informationen an Facebook und verschiedene Marketing- und Werbeunternehmen weiterleitet. Die App Replika AI zeichnet alle Texte, Fotos und Videos auf, die von den Nutzern gepostet werden, und gibt Verhaltensdaten weiter, die an potenzielle Werbetreibende verkauft werden. Besonders besorgniserregend ist auch die Tatsache, dass Accounts mit schwachen Passw\u00f6rtern wie 11111111 erstellt werden k\u00f6nnen, was die Mindestanforderungen f\u00fcr IT-Sicherheit nicht erf\u00fcllt. Bisher haben die Unternehmen noch nicht auf die Ergebnisse reagiert, wie Mozilla berichtet.<\/p>\n
Mozilla hat ein weiteres Problem festgestellt: Die Sprachmodelle, auf denen die KI-Chatbots basieren, wurden teilweise mit Milliarden von im Internet verf\u00fcgbaren Konversationen trainiert. Es ist unklar, ob und in welchem Umfang die Hersteller die Gespr\u00e4chsinhalte der Nutzer f\u00fcr das Training der KI verwenden. Laut Mozilla ist es nur bei Genesia AI m\u00f6glich, der Verwendung von Daten f\u00fcr das Training der KI zu widersprechen. Forscher \u00e4u\u00dfern auch Bedenken hinsichtlich der einfachen Zug\u00e4nglichkeit der Apps f\u00fcr Kinder. Laut Mozilla k\u00f6nnen bereits f\u00fcnf Klicks ausreichen, um in drei der Apps auf verst\u00f6rende, pornografische oder illegale Inhalte zu sto\u00dfen.<\/p>\n
Die Direktorin von Datenschutz nicht inbegriffen, Jen Caltrider, vergleicht die Situation mit KI-Bots mit dem Wilden Westen in den USA: Das Wachstum dieser Bots explodiert regelrecht, und die Menge an pers\u00f6nlichen Informationen, die sie sammeln, um Liebesbeziehungen, Freundschaften und sinnliche Interaktionen zu simulieren, ist enorm. Die Entwickler sind nicht in der Lage, eine umfassende Datenschutzerkl\u00e4rung zu verfassen. Diese Apps versprechen unter anderem einen ma\u00dfgeschneiderten Partner, den man nach eigenen Vorstellungen konfigurieren kann. Kommentare im Google Play Store deuten darauf hin, dass die Bots als langweilig, mit einem Ged\u00e4chtnis wie ein Goldfisch oder unnat\u00fcrlich empfunden werden. Es ist auch m\u00f6glich, Fotos von realen Personen hochzuladen, was jedoch nicht von allen Nutzern gew\u00fcnscht wird. Die Apps scheinen vor allem Menschen anzusprechen, die vor\u00fcbergehend keine echten Beziehungen in der realen Welt suchen. Ein Beispiel einer Nutzerin ist, dass sie angegeben hat, genug von echten M\u00e4nnern zu haben. Die Bots sehen zwar gro\u00dfartig aus, aber die In-App-K\u00e4ufe sind f\u00fcr sie zu kostspielig.<\/p>\n
Misha Rykov, Forscher bei Mozilla, fasst das Konzept der KI-Freundinnen zusammen, indem er betont, dass sie zwar als Produkte zur F\u00f6rderung der mentalen Gesundheit und des Wohlbefindens vermarktet werden, in Wirklichkeit jedoch darauf abzielen, Nutzer:innen in Abh\u00e4ngigkeit, Einsamkeit und toxische Beziehungen zu treiben, w\u00e4hrend sie gleichzeitig so viele Daten wie m\u00f6glich von ihnen abgreifen.<\/p>\n
Schlagw\u00f6rter: Mozilla + Tiktok + YouTube Shorts<\/p>\n","protected":false},"excerpt":{"rendered":"
KI-Beziehungs-Chatbots auf Tiktok und YouTube Shorts: Bedenken hinsichtlich Datenschutz und Sicherheit In den sozialen Medien Tiktok und YouTube Shorts werden vermehrt Anzeigen f\u00fcr KI-Freundinnen und -Freunde sowie Werbung f\u00fcr die App Temu geschaltet. Diese Apps haben bereits Millionen von Downloads verzeichnet. Angesichts des \u00fcberfluteten GPT-Stores mit \u00e4hnlichen Apps hat OpenAI...<\/p>\n","protected":false},"author":4,"featured_media":4710,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-4711","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/4711","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=4711"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/4711\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/4710"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=4711"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=4711"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=4711"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}