OpenAI hat k\u00fcrzlich einen neuen Trick aus dem Hut gezaubert, um herauszufinden, ob ein Bild mit ihrem DALL-E AI-Bildgenerator erstellt wurde. Aber sie haben nicht nur das gemacht, sie haben auch gleich noch neue Wasserzeichenmethoden eingef\u00fchrt, um den generierten Inhalt deutlicher zu markieren. Das ist doch mal eine clevere Idee!<\/p>\n
In einem Blogbeitrag verk\u00fcndete OpenAI stolz, dass sie innovative Methoden entwickelt haben, um die Herkunft von Inhalten zu verfolgen und festzustellen, ob diese von KI generiert wurden. Eine dieser Methoden beinhaltet einen Bilderkennungsklassifikator, der KI nutzt, um festzustellen, ob ein Foto von DALL-E 3 erstellt wurde. Das ist wie ein Detektiv, der den T\u00e4ter anhand seiner Fingerabdr\u00fccke erkennt, nur dass es hier um Bilder geht. Ziemlich cool, oder?<\/p>\n
Aber OpenAI hat nicht nur an die Bilder gedacht, nein, sie haben auch ein manipulationssicheres Wasserzeichen eingef\u00fchrt. Das bedeutet, dass sie unsichtbare Signale verwenden, um Inhalte wie Audio zu markieren. Also, wenn jemand versucht, den generierten Inhalt zu manipulieren, wird das Wasserzeichen es aufdecken. Eine Art digitales Schimpansen-Tattoo, das auf dem Bild versteckt ist. Fantastisch!<\/p>\n
Der Bilderkennungsklassifikator prognostiziert mit einer Genauigkeit von etwa 98 Prozent, ob ein Bild von DALL-E 3 erstellt wurde. Das ist beeindruckend! Und das Beste daran ist, dass der Klassifikator seine Funktion auch dann erf\u00fcllt, wenn das Bild beschnitten, komprimiert oder die S\u00e4ttigung ver\u00e4ndert wurde. Er ist wie ein Superheld, der sich von nichts aufhalten l\u00e4sst!<\/p>\n
Aber hier kommt die schlechte Nachricht: Der Klassifikator hat Schwierigkeiten, Inhalte von anderen KI-Modellen zu erkennen. Zum Beispiel markiert er nur 5 bis 10 Prozent der Bilder, die von anderen Bildgeneratoren wie Midjourney erstellt wurden. Na ja, niemand ist perfekt, oder?<\/p>\n
Um sicherzustellen, dass die Informationen \u00fcber die Herkunft der Bilder nicht verloren gehen, hat OpenAI in der Vergangenheit bereits Metadaten von Bildern hinzugef\u00fcgt. Diese Metadaten enthalten Informationen dar\u00fcber, wem das Bild geh\u00f6rt und wie es erstellt wurde. OpenAI ist Mitglied der Coalition of Content Provenance and Authority (C2PA), zusammen mit Unternehmen wie Microsoft und Adobe. Und jetzt haben sie sogar den Lenkungsausschuss der C2PA betreten. Das ist wie ein VIP-Pass f\u00fcr die Welt der Inhaltsreferenzen!<\/p>\n
Aber damit nicht genug, OpenAI hat auch Wasserzeichen zu Clips aus ihrer Text-to-Speech-Plattform Voice Engine hinzugef\u00fcgt. Das ist wie eine zus\u00e4tzliche Sicherheitsma\u00dfnahme, um sicherzustellen, dass der generierte Inhalt nicht manipuliert wird. Es ist, als ob sie einen Riesenkuchen mit einem „Bitte nicht anfassen“ Schild darauf haben. Wer k\u00f6nnte da widerstehen?<\/p>\n
Sowohl der Bilderkennungsklassifikator als auch das Audio-Wasserzeichensignal befinden sich noch in der Entwicklung. OpenAI bittet die Benutzer um Feedback, um die Effektivit\u00e4t dieser neuen Funktionen zu testen. Forscher und gemeinn\u00fctzige Journalismusgruppen haben sogar die M\u00f6glichkeit, den Bilderkennungsklassifikator auf OpenAIs Forschungszugriffsplattform zu testen. Das ist wie ein offener Beta-Test, bei dem die Benutzer mithelfen k\u00f6nnen, die KI noch schlauer zu machen.<\/p>\n
Es ist wirklich beeindruckend, wie OpenAI sich kontinuierlich bem\u00fcht, KI-generierte Inhalte zu erkennen. Aber manchmal muss man auch akzeptieren, dass nicht alles perfekt funktioniert. Im Jahr 2023 musste OpenAI ein Programm beenden, das KI-geschriebenen Text identifizieren sollte, weil der Textklassifikator der KI einfach nicht genau genug war. Schade, aber manchmal muss man eben einen Schritt zur\u00fcckgehen, um zwei Schritte nach vorne machen zu k\u00f6nnen.<\/p>\n
Schlagw\u00f6rter: OpenAI + KI + DALL-E<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI hat k\u00fcrzlich einen neuen Trick aus dem Hut gezaubert, um herauszufinden, ob ein Bild mit ihrem DALL-E AI-Bildgenerator erstellt wurde. Aber sie haben nicht nur das gemacht, sie haben auch gleich noch neue Wasserzeichenmethoden eingef\u00fchrt, um den generierten Inhalt deutlicher zu markieren. Das ist doch mal eine clevere Idee!...<\/p>\n","protected":false},"author":4,"featured_media":7478,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-7479","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/7479","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=7479"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/7479\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/7478"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=7479"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=7479"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=7479"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}