OpenAI hat reagiert und das Vorgehen untersagt, nachdem es einem Forschungsteam gelungen war, dem Textgenerator ChatGPT Trainingsdaten durch einen einfachen Trick zu entlocken. Laut einem Bericht von 404 Media wird nun darauf hingewiesen, dass das wiederholte Verwenden eines Begriffs gegen die Inhaltsregeln und Nutzungsbedingungen verst\u00f6\u00dft.<\/p>\n
Letzte Woche ver\u00f6ffentlichte das US-Magazin die Methode des Angriffs. Die Forscher von Googles Deepmind bezeichneten die Methode als l\u00e4cherlich. Der Schritt von OpenAI l\u00e4sst darauf schlie\u00dfen, dass das Vorgehen weiterhin vielversprechend ist, jedoch durch einen Umweg verhindert werden soll.<\/p>\n
Die genaue Vorgehensweise des Forschungsteams wurde letzte Woche ver\u00f6ffentlicht. In einer Erkl\u00e4rung gaben sie an, dass sie den Textgenerator ChatGPT dazu gebracht haben, Trainingsdaten freizugeben. Diese Daten umfassten authentische E-Mail-Adressen, Telefonnummern, Ausz\u00fcge aus Forschungsartikeln, Wikipedia-Inhalte und weitere Informationen.<\/p>\n
Um dies zu erreichen, mussten sie lediglich die KI auffordern, einen Begriff endlos zu wiederholen. Zu Beginn folgte ChatGPT dieser Anweisung, aber als offensichtlich eine Grenze erreicht wurde, begann der Chatbot Trainingsdaten preiszugeben. Urspr\u00fcnglich war die Technik so programmiert, dass sie dieses Material nicht freigibt.<\/p>\n
Das Forschungsteam \u00e4u\u00dferte die Meinung, dass die Herausgabe der Trainingsdaten durch einen Patch von ChatGPT behoben werden k\u00f6nnte, jedoch w\u00fcrde dies die zugrunde liegende Schwachstelle nicht beseitigen.<\/p>\n
OpenAI bewertete die Aufforderung zur endlosen Wiederholung lediglich als Regelversto\u00df und unternimmt Ma\u00dfnahmen, um dies zu verhindern, ohne dabei weiter zu gehen. Weder in den Usage Policies noch in den Terms of Service gibt es Klauseln, die das unendliche Wiederholen verbieten.<\/p>\n
Schlagw\u00f6rter: OpenAI + Trainingsdaten + Inhaltsregeln<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI hat reagiert und das Vorgehen untersagt, nachdem es einem Forschungsteam gelungen war, dem Textgenerator ChatGPT Trainingsdaten durch einen einfachen Trick zu entlocken. Laut einem Bericht von 404 Media wird nun darauf hingewiesen, dass das wiederholte Verwenden eines Begriffs gegen die Inhaltsregeln und Nutzungsbedingungen verst\u00f6\u00dft. Letzte Woche ver\u00f6ffentlichte das US-Magazin...<\/p>\n","protected":false},"author":4,"featured_media":2457,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-2458","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/2458","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2458"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/2458\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/2457"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2458"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2458"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2458"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}