Jan Leike, ein bedeutender Forscher von OpenAI, hat k\u00fcrzlich aus Sicherheitsbedenken seinen R\u00fccktritt erkl\u00e4rt und ist dem Konkurrenten Anthropic beigetreten. Bei Anthropic wird er an Studien zu Themen wie skalierbarer Aufsicht, schwacher bis starker Verallgemeinerung und automatisierter Ausrichtung arbeiten. Das ist nat\u00fcrlich ein gro\u00dfer Verlust f\u00fcr OpenAI, da Leike als Teil des Superalignment-Teams eine wichtige Rolle bei der Entwicklung sicherer und ethischer KI-Systeme spielte.<\/p>\n
Leikes Entscheidung, zu Anthropic zu wechseln, kam f\u00fcr Beobachter des KI-Dramas nicht \u00fcberraschend. Anthropic hat sich als das genaue Gegenteil von OpenAI positioniert und verfolgt eine vorsichtigere Herangehensweise an den Fortschritt in der KI-Forschung. Das gemeinn\u00fctzige Unternehmen wurde von ehemaligen Mitarbeitern von OpenAI gegr\u00fcndet, die der Ansicht waren, dass OpenAI von seiner urspr\u00fcnglichen Mission abgewichen ist und zu sehr auf kommerzielle Interessen fokussiert ist.<\/p>\n
Die Kritik an OpenAI ist nicht unbegr\u00fcndet. Es ist h\u00f6chste Zeit, dass wir uns gr\u00fcndlich mit den Konsequenzen von AGI (Artificial General Intelligence) befassen. Leike betonte in seinen Beitr\u00e4gen vor seinem R\u00fccktritt, dass wir uns bestm\u00f6glich auf AGI vorbereiten m\u00fcssen, um sicherzustellen, dass alle Menschen von den Vorteilen profitieren k\u00f6nnen. Bei Anthropic wird er nun an der Entwicklung von intelligenten Systemen arbeiten, die im Einklang mit menschlichen Werten agieren.<\/p>\n
In seinem Beitrag nach der Bekanntgabe seines R\u00fccktritts kritisierte Leike OpenAI daf\u00fcr, dass nicht gen\u00fcgend Rechenressourcen bereitgestellt wurden, um den Erfolg sicherzustellen. Dies k\u00f6nnte ein Hinweis darauf sein, dass OpenAI m\u00f6glicherweise nicht genug Ressourcen in die Erforschung sicherer und ethischer KI investiert hat.<\/p>\n
Anthropic hingegen setzt auf verfassungsm\u00e4\u00dfige KI, bei der ethische Grunds\u00e4tze in das Training von KI-Modellen integriert werden. Dabei werden \u00f6ffentliche Meinungen eingeholt und Konzepte aus Quellen wie der Allgemeinen Erkl\u00e4rung der Menschenrechte der Vereinten Nationen ber\u00fccksichtigt. Diese Herangehensweise ist ein deutlicher Gegensatz zu OpenAI, das sich in der Vergangenheit haupts\u00e4chlich auf technische Aspekte konzentriert hat.<\/p>\n
Ein weiterer bemerkenswerter Abgang von OpenAI ist Mitbegr\u00fcnder Ilya Sutskever, der ebenfalls diesen Monat das Unternehmen verlassen hat. Seit seinem gescheiterten Putschversuch gegen CEO Sam Altman im November war er angeblich nicht mehr im B\u00fcro. Obwohl Sutskever seinen n\u00e4chsten Schritt noch nicht angek\u00fcndigt hat, stimmen seine Werte mit denen von Anthropic \u00fcberein, was es zu einem plausiblen Ziel f\u00fcr ihn neben Leike macht.<\/p>\n
Es bleibt abzuwarten, wie sich diese Abg\u00e4nge auf OpenAI auswirken werden. Mit solch erfahrenen und angesehenen Forschern wie Leike und Sutskever bei Anthropic hat das Unternehmen definitiv das Potenzial, zu einem wichtigen Akteur in der KI-Forschung zu werden. Es bleibt zu hoffen, dass sie ihre Bem\u00fchungen fortsetzen, um eine sicherere und ethischere KI f\u00fcr die Zukunft zu gew\u00e4hrleisten.<\/p>\n
Schlagw\u00f6rter: Jan Leike + OpenAI + Anthropic<\/p>\n","protected":false},"excerpt":{"rendered":"
Jan Leike, ein bedeutender Forscher von OpenAI, hat k\u00fcrzlich aus Sicherheitsbedenken seinen R\u00fccktritt erkl\u00e4rt und ist dem Konkurrenten Anthropic beigetreten. Bei Anthropic wird er an Studien zu Themen wie skalierbarer Aufsicht, schwacher bis starker Verallgemeinerung und automatisierter Ausrichtung arbeiten. Das ist nat\u00fcrlich ein gro\u00dfer Verlust f\u00fcr OpenAI, da Leike als...<\/p>\n","protected":false},"author":4,"featured_media":8108,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-8109","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/8109","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=8109"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/8109\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/8108"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=8109"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=8109"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=8109"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}