Deepfakes sind schon seit einiger Zeit ein hei\u00dfes Thema, und es scheint, dass es immer schwieriger wird, zwischen echten und manipulierten Videos oder Bildern zu unterscheiden. Aber zum Gl\u00fcck gibt es kluge K\u00f6pfe an der University at Buffalo, die sich mit diesem Problem besch\u00e4ftigen und nach L\u00f6sungen suchen.<\/p>\n
Die Forscher haben festgestellt, dass spezielle Software zur Erkennung von Deepfakes, im Vergleich zu Language Models with Limited Memory (LLMs), keine signifikant bessere Leistung erbringt. LLMs wie ChatGPT von OpenAI und Gemini von Google wurden verwendet, um Bilder aufzudecken, die mit Hilfe von K\u00fcnstlicher Intelligenz (KI) erstellt wurden. Aber trotz ihrer beeindruckenden F\u00e4higkeiten bleiben sie in Sachen Deepfake-Erkennung hinter dedizierten Algorithmen zur\u00fcck.<\/p>\n
Was macht LLMs dann so besonders? Nun, sie haben die F\u00e4higkeit, ihre Ergebnisse auf eine f\u00fcr Menschen verst\u00e4ndliche Weise zu erkl\u00e4ren. Sie k\u00f6nnen zum Beispiel feststellen, dass ein Schatten falsch platziert ist oder dass die Ohrringe nicht zum Gesicht passen. Das ist ziemlich beeindruckend, vor allem wenn man bedenkt, dass die LLMs nicht explizit f\u00fcr die Erkennung von Deepfakes entwickelt oder trainiert wurden.<\/p>\n
ChatGPT und andere LLMs wurden mit einer riesigen Menge an Textdaten aus dem Internet trainiert, insgesamt etwa 300 Milliarden W\u00f6rter. Durch dieses Training sind sie in der Lage, statistische Muster und Beziehungen zwischen W\u00f6rtern zu erkennen und Antworten zu generieren. Und ja, sie k\u00f6nnen auch Bilder analysieren.<\/p>\n
Die Forscher haben LLMs und tausende authentische sowie manipulierte Bilder getestet. In 79,5 Prozent der F\u00e4lle erzielte ChatGPT die richtigen Ergebnisse. Und das Beste daran ist, dass die Software in verst\u00e4ndlicher Sprache erkl\u00e4ren kann, wie sie die Manipulationen erkannt hat.<\/p>\n
Ein Beispiel: Bei einem KI-generierten Foto eines Mannes mit Brille erkannte ChatGPT, dass die Haare auf der linken Seite des Bildes leicht unscharf waren und der \u00dcbergang zwischen der Person und dem Hintergrund abrupt war. Dadurch fehlte dem Bild die n\u00f6tige Tiefe. Ziemlich beeindruckend, oder?<\/p>\n
Die Forscher sind der Meinung, dass LLMs, obwohl sie nicht speziell f\u00fcr die Deepfake-Erkennung entwickelt wurden, aufgrund ihrer F\u00e4higkeit, in nat\u00fcrlicher Sprache zu arbeiten, zu einem praktischen Werkzeug werden k\u00f6nnten. Sie k\u00f6nnen auf einfache Weise ihre Ergebnisse erkl\u00e4ren und so helfen, Manipulationen aufzudecken.<\/p>\n
Nat\u00fcrlich ist die Technologie nicht perfekt und es gibt noch viel Raum f\u00fcr Verbesserungen. Aber es ist ein Schritt in die richtige Richtung und zeigt, dass wir auf dem Weg sind, Deepfakes besser zu erkennen und zu bek\u00e4mpfen. Hoffentlich werden wir in Zukunft noch effektivere Werkzeuge haben, um uns vor solchen Manipulationen zu sch\u00fctzen.<\/p>\n
Schlagw\u00f6rter: ChatGPT + University + Buffalo<\/p>\n","protected":false},"excerpt":{"rendered":"
Deepfakes sind schon seit einiger Zeit ein hei\u00dfes Thema, und es scheint, dass es immer schwieriger wird, zwischen echten und manipulierten Videos oder Bildern zu unterscheiden. Aber zum Gl\u00fcck gibt es kluge K\u00f6pfe an der University at Buffalo, die sich mit diesem Problem besch\u00e4ftigen und nach L\u00f6sungen suchen. Die Forscher...<\/p>\n","protected":false},"author":4,"featured_media":9232,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-9233","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/9233","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=9233"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/9233\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/9232"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=9233"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=9233"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=9233"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}