Jan Leike, einer der f\u00fchrenden Forscher bei OpenAI, hat diese Woche seinen R\u00fccktritt erkl\u00e4rt, kurz nachdem Mitbegr\u00fcnder Ilya Sutskever ebenfalls zur\u00fcckgetreten ist. Leike \u00e4u\u00dferte sich am Freitagmorgen auf X und wies darauf hin, dass bei OpenAI die Sicherheitskultur und -prozesse zugunsten beeindruckender Produkte vernachl\u00e4ssigt wurden.<\/p>\n
Diese Aussagen kamen im Anschluss an einen Bericht von Wired, nach dem das sogenannte Superalignment-Team bei OpenAI aufgel\u00f6st wurde. Leike leitete dieses Team, das im vergangenen Juli gegr\u00fcndet wurde, um die wichtigsten Probleme bei der Implementierung von Sicherheitsprotokollen im Zusammenhang mit der Entwicklung einer KI zu l\u00f6sen, die menschen\u00e4hnliches Denken erm\u00f6glicht.<\/p>\n
Urspr\u00fcnglich hatte OpenAI die Absicht, ihre Modelle der \u00d6ffentlichkeit zug\u00e4nglich zu machen, weshalb die Organisation auch diesen Namen tr\u00e4gt. Doch aufgrund der Bef\u00fcrchtungen, dass der Zugang zu solch leistungsstarken Modellen potenziell zerst\u00f6rerisch sein k\u00f6nnte, entschied sich das Unternehmen dazu, diese als propriet\u00e4res Wissen zu behandeln. Angesichts dessen ist es h\u00f6chste Zeit, dass wir uns eingehend mit den Konsequenzen von AGI (Artificial General Intelligence) auseinandersetzen.<\/p>\n
Leike betonte in weiteren Posts zu seinem R\u00fccktritt, dass es von entscheidender Bedeutung sei, sich bestm\u00f6glich auf die Herausforderungen von AGI vorzubereiten. Nur so k\u00f6nne sichergestellt werden, dass diese Technologie allen Menschen zugutekommt. Laut dem Bericht wird John Schulman, ein weiterer Mitbegr\u00fcnder von OpenAI, der Leike w\u00e4hrend des erfolglosen Vorstandsputsches im letzten Jahr unterst\u00fctzte, die Verantwortung f\u00fcr Leikes Team \u00fcbernehmen.<\/p>\n
Sutskever, der eine entscheidende Rolle in dem ber\u00fcchtigten gescheiterten Putsch gegen Sam Altman spielte, gab seinen R\u00fccktritt bereits am Dienstag bekannt. Leike betonte, dass in den letzten Jahren die Sicherheitskultur und -prozesse bei OpenAI zugunsten beeindruckender Produkte vernachl\u00e4ssigt wurden. Diese \u00c4u\u00dferungen verdeutlichen eine wachsende Spannung innerhalb des Unternehmens. W\u00e4hrend die Forscher daran arbeiten, k\u00fcnstliche allgemeine Intelligenz zu entwickeln und gleichzeitig KI-Produkte wie ChatGPT und DALL-E f\u00fcr Verbraucher zu handhaben, \u00e4u\u00dfern Mitarbeiter wie Leike Bedenken bez\u00fcglich der potenziellen Risiken, die mit der Erzeugung hochintelligenter KI-Modelle einhergehen.<\/p>\n
Leike gab an, dass sein Team vernachl\u00e4ssigt wurde und nicht \u00fcber ausreichende Rechenleistung und andere Ressourcen verf\u00fcgte, um ihre wichtige Arbeit zu erledigen. Er hatte sich OpenAI angeschlossen, da er glaubte, dass dies der ideale Ort sei, um diese Forschung voranzutreiben.<\/p>\n
Schlagw\u00f6rter: Jan Leike + OpenAI KI + OpenAI<\/p>\n","protected":false},"excerpt":{"rendered":"
Jan Leike, einer der f\u00fchrenden Forscher bei OpenAI, hat diese Woche seinen R\u00fccktritt erkl\u00e4rt, kurz nachdem Mitbegr\u00fcnder Ilya Sutskever ebenfalls zur\u00fcckgetreten ist. Leike \u00e4u\u00dferte sich am Freitagmorgen auf X und wies darauf hin, dass bei OpenAI die Sicherheitskultur und -prozesse zugunsten beeindruckender Produkte vernachl\u00e4ssigt wurden. Diese Aussagen kamen im Anschluss...<\/p>\n","protected":false},"author":4,"featured_media":7846,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-7847","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/7847","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=7847"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/7847\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/7846"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=7847"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=7847"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=7847"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}