Jan Leike wechselt von OpenAI zu Anthropic: Bedeutender Forscher aus Sicherheitsgründen zurückgetreten

Jan Leike, ein bedeutender Forscher von OpenAI, hat kürzlich aus Sicherheitsbedenken seinen Rücktritt erklärt und ist dem Konkurrenten Anthropic beigetreten. Bei Anthropic wird er an Studien zu Themen wie skalierbarer Aufsicht, schwacher bis starker Verallgemeinerung und automatisierter Ausrichtung arbeiten. Das ist natürlich ein großer Verlust für OpenAI, da Leike als Teil des Superalignment-Teams eine wichtige Rolle bei der Entwicklung sicherer und ethischer KI-Systeme spielte.

Leikes Entscheidung, zu Anthropic zu wechseln, kam für Beobachter des KI-Dramas nicht überraschend. Anthropic hat sich als das genaue Gegenteil von OpenAI positioniert und verfolgt eine vorsichtigere Herangehensweise an den Fortschritt in der KI-Forschung. Das gemeinnützige Unternehmen wurde von ehemaligen Mitarbeitern von OpenAI gegründet, die der Ansicht waren, dass OpenAI von seiner ursprünglichen Mission abgewichen ist und zu sehr auf kommerzielle Interessen fokussiert ist.

Die Kritik an OpenAI ist nicht unbegründet. Es ist höchste Zeit, dass wir uns gründlich mit den Konsequenzen von AGI (Artificial General Intelligence) befassen. Leike betonte in seinen Beiträgen vor seinem Rücktritt, dass wir uns bestmöglich auf AGI vorbereiten müssen, um sicherzustellen, dass alle Menschen von den Vorteilen profitieren können. Bei Anthropic wird er nun an der Entwicklung von intelligenten Systemen arbeiten, die im Einklang mit menschlichen Werten agieren.

In seinem Beitrag nach der Bekanntgabe seines Rücktritts kritisierte Leike OpenAI dafür, dass nicht genügend Rechenressourcen bereitgestellt wurden, um den Erfolg sicherzustellen. Dies könnte ein Hinweis darauf sein, dass OpenAI möglicherweise nicht genug Ressourcen in die Erforschung sicherer und ethischer KI investiert hat.

Anthropic hingegen setzt auf verfassungsmäßige KI, bei der ethische Grundsätze in das Training von KI-Modellen integriert werden. Dabei werden öffentliche Meinungen eingeholt und Konzepte aus Quellen wie der Allgemeinen Erklärung der Menschenrechte der Vereinten Nationen berücksichtigt. Diese Herangehensweise ist ein deutlicher Gegensatz zu OpenAI, das sich in der Vergangenheit hauptsächlich auf technische Aspekte konzentriert hat.

Ein weiterer bemerkenswerter Abgang von OpenAI ist Mitbegründer Ilya Sutskever, der ebenfalls diesen Monat das Unternehmen verlassen hat. Seit seinem gescheiterten Putschversuch gegen CEO Sam Altman im November war er angeblich nicht mehr im Büro. Obwohl Sutskever seinen nächsten Schritt noch nicht angekündigt hat, stimmen seine Werte mit denen von Anthropic überein, was es zu einem plausiblen Ziel für ihn neben Leike macht.

Es bleibt abzuwarten, wie sich diese Abgänge auf OpenAI auswirken werden. Mit solch erfahrenen und angesehenen Forschern wie Leike und Sutskever bei Anthropic hat das Unternehmen definitiv das Potenzial, zu einem wichtigen Akteur in der KI-Forschung zu werden. Es bleibt zu hoffen, dass sie ihre Bemühungen fortsetzen, um eine sicherere und ethischere KI für die Zukunft zu gewährleisten.

Schlagwörter: Jan Leike + OpenAI + Anthropic

Wie bewerten Sie den Schreibstil des Artikels?