Die Unternehmen Google, Anthropic, OpenAI und Microsoft haben den Branchenverband Frontier Model Forum ins Leben gerufen. Der Verband hat es sich zur Aufgabe gemacht, die sichere und verantwortungsvolle Entwicklung und Anwendung von Frontier-KI-Modellen zu f\u00f6rdern. Um dieses Ziel zu erreichen, wurde Chris Meserole zum Executive Director ernannt.<\/p>\n
Um die Aktivit\u00e4ten des Verbands zu unterst\u00fctzen, wurde ein Fonds in H\u00f6he von 10 Millionen US-Dollar eingerichtet. OpenAI hat zudem ein neues Preparedness Team etabliert. Die Ank\u00fcndigungen erfolgten kurz vor dem Beginn des UK AI Safety Summits.<\/p>\n
Der Begriff „KI-Pioniermodelle“ wird auch f\u00fcr Frontier AI Modelle verwendet. Laut einem Blogbeitrag von OpenAI verf\u00fcgt Meserole \u00fcber umfangreiche Erfahrung in den Bereichen Regulierung und Sicherheit neuer Technologien sowie zuk\u00fcnftiger Anwendungen. Vor seiner T\u00e4tigkeit als Executive Director des Frontier Model Forums war er Direktor der Artificial Intelligence and Emerging Technology Initiative am renommierten Brookings Institut in Washington D.C.<\/p>\n
Meseroles Verantwortlichkeiten umfassen die Minimierung potenzieller Risiken von Vorreitermodellen, die Identifizierung von Sicherheitsverfahren sowie die F\u00f6rderung des Wissensaustauschs mit politischen Entscheidungstr\u00e4gern, Wissenschaftlern, der Zivilgesellschaft und anderen Akteuren. Dar\u00fcber hinaus ist es sein Ziel, die Anstrengungen zur Nutzung von KI zur Bew\u00e4ltigung der bedeutendsten gesellschaftlichen Herausforderungen zu unterst\u00fctzen.<\/p>\n
Der Branchenverband wurde im Sommer 2023 ins Leben gerufen. Die vier Gr\u00fcndungsunternehmen gelten als f\u00fchrende Anbieter von generativen KI-Produkten f\u00fcr den Massenmarkt. ChatGPT, Bing, Bard und Claude stehen frei zur Verf\u00fcgung und werden von einer gro\u00dfen Nutzerbasis von Millionen von Menschen genutzt.<\/p>\n
Gem\u00e4\u00df den individuellen Pressemitteilungen aller Partner verfolgt das Frontier Model Forum vier grundlegende Ziele: die F\u00f6rderung der KI-Sicherheitsforschung, die Festlegung bew\u00e4hrter Praktiken f\u00fcr den Entwicklungs- und Rollout-Prozess von Modellen, die Zusammenarbeit mit externen Partnern zur Wissensvermittlung \u00fcber Vertrauens- und Sicherheitsrisiken sowie die Unterst\u00fctzung bei der Entwicklung von KI-Modellen zur Bew\u00e4ltigung bedeutender gesellschaftlicher Herausforderungen wie dem Klimawandel und der Krebsfr\u00fcherkennung.<\/p>\n
OpenAI hat die Einf\u00fchrung eines neuen Fonds angek\u00fcndigt und dies mit den bedeutenden Fortschritten in den F\u00e4higkeiten der KI im vergangenen Jahr begr\u00fcndet. Aufgrund der beschleunigten Fortschritte ist eine weitere akademische Forschung im Bereich der KI-Sicherheit vonn\u00f6ten. Der Fonds hat die Absicht, unabh\u00e4ngige Forscher weltweit zu unterst\u00fctzen.<\/p>\n
Zus\u00e4tzlich zu den Gr\u00fcndungsmitgliedern des Frontier Model Forums haben auch die philanthropischen Partner, die Patrick J. McGovern Foundation und die David und Lucile Packard Foundation, ihre finanzielle Unterst\u00fctzung zugesagt. Die Mitglieder des Forums haben sich freiwillig dazu verpflichtet, eine KI-Verpflichtung zu unterzeichnen, die das einfache Melden von Sicherheitsl\u00fccken in ihren Systemen erm\u00f6glicht. Der Fonds soll ebenfalls f\u00fcr diesen Zweck verwendet werden, mit einem Schwerpunkt auf dem sogenannten Red-Teaming, also der Pr\u00fcfung und Bewertung der Systeme.<\/p>\n
OpenAI sucht Fachkr\u00e4fte aus einer breiten Palette von Fachrichtungen, um das neue Team zu verst\u00e4rken. Im Verlauf der vergangenen Monate hat das Forum intensiv daran gearbeitet, gemeinsame Definitionen von Begriffen, Konzepten und Prozessen zu erarbeiten, um ein einheitliches Verst\u00e4ndnis zu schaffen. Dadurch wird eine gemeinsame Grundlage geschaffen, auf der Forscher, Regierungen und andere Branchenkollegen Diskussionen \u00fcber KI-Sicherheit und Governance-Fragen f\u00fchren k\u00f6nnen.<\/p>\n
OpenAI hat zudem ein neues Team ins Leben gerufen, das von Aleksander Madry geleitet wird und unter anderem f\u00fcr das Red-Teaming zust\u00e4ndig ist. Das Preparedness-Team wird eine enge Verbindung zwischen der Bewertung von F\u00e4higkeiten, Evaluierungen und dem internen Red Teaming f\u00fcr Pioniermodelle herstellen. Diese Regelung betrifft sowohl zuk\u00fcnftige Modelle als auch solche mit einem AGI-Niveau. Das Team hat auch die Verantwortung f\u00fcr Cybersecurity, die Bew\u00e4ltigung von chemischen, biologischen, radiologischen und nuklearen Bedrohungen sowie f\u00fcr Autonome Replikation und Adaption (ARA).<\/p>\n
OpenAI sucht noch Mitarbeiter f\u00fcr dieses Team. Direkt vor dem AI Safety Summit in Gro\u00dfbritannien, einer Veranstaltung, bei der Politiker, Unternehmen und Vertreter der Zivilgesellschaft \u00fcber die Regulierung von KI diskutieren, erfolgt eine Investition in die Sicherheit von KI-Systemen. OpenAI hat in Bezug auf den Gipfel erkl\u00e4rt, dass sie ihre Fortschritte bei der Sicherheit von Frontier-KI ausf\u00fchrlich dargelegt haben, einschlie\u00dflich ihrer Bem\u00fchungen im Rahmen ihrer freiwilligen Verpflichtungen.<\/p>\n
Schlagw\u00f6rter: Frontier Model Forum + KISicherheitsforschung + Preparedness Team<\/p>\n","protected":false},"excerpt":{"rendered":"
Die Unternehmen Google, Anthropic, OpenAI und Microsoft haben den Branchenverband Frontier Model Forum ins Leben gerufen. Der Verband hat es sich zur Aufgabe gemacht, die sichere und verantwortungsvolle Entwicklung und Anwendung von Frontier-KI-Modellen zu f\u00f6rdern. Um dieses Ziel zu erreichen, wurde Chris Meserole zum Executive Director ernannt. Um die Aktivit\u00e4ten...<\/p>\n","protected":false},"author":4,"featured_media":1024,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1025","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/1025","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1025"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/1025\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/1024"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1025"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1025"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1025"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}