Google hat am Montag ein neues Belohnungsprogramm eingef\u00fchrt, das sich speziell auf die Erkennung von Fehlern in KI-Produkten konzentriert. Diese Initiative zielt darauf ab, Sicherheitsl\u00fccken und potenzielle Sch\u00e4den durch fehlerhafte Aktionen in Googles KI-Systemen aufzudecken und zu beheben. Das Programm definiert pr\u00e4zise, welche Arten von KI-Fehlern relevant sind, unterteilt sie in Kategorien und bietet Anreize f\u00fcr deren Aufdeckung durch externe Experten. Ein Fokus liegt auf Fehlern, die durch gro\u00dfe Sprachmodelle oder generative KI-Systeme entstehen k\u00f6nnen, um Schaden anzurichten oder Sicherheitsm\u00e4ngel auszunutzen. Beispiele hierf\u00fcr umfassen Manipulationen von Benutzerkonten oder Daten zur Gef\u00e4hrdung der Sicherheit sowie Aktionen wie das \u00d6ffnen von smarten Jalousien oder das Abschalten des Lichts durch manipulierte Google-Kalenderereignisse. <\/p>\n
Im Rahmen dieses Programms werden Fehlerj\u00e4ger f\u00fcr das Aufsp\u00fcren solcher fehlerhaften Aktionen belohnt, wobei die Pr\u00e4mien je nach Schweregrad und Produktkategorie variieren. Besonders hohe Auszeichnungen sind f\u00fcr Fehler in wichtigen Produkten wie der Google-Suche, Gemini-Apps sowie den Kernanwendungen von Workspace wie Gmail und Drive vorgesehen. Google betont, dass dieses Programm nicht allein auf finanzielle Belohnungen beschr\u00e4nkt ist. Es sieht auch einen Mechanismus vor, durch den aufgedeckte Fehler direkt in die Verbesserung der KI-Sicherheit eingehen. So sollen menschliche Forscher identifizierte Schwachstellen in Open-Source-Projekten beheben, und Google implementiert gezielte Sicherheits-Trainings f\u00fcr seine Modelle, basierend auf den gefundenen Fehlern. Ein Beispiel daf\u00fcr ist CodeMender, ein KI-Agent, der anf\u00e4lligen Code repariert und bereits 72 Sicherheitsfixes in Open-Source-Projekten erm\u00f6glicht hat. <\/p>\n
Schlagw\u00f6rter: Google + KI<\/p>\n","protected":false},"excerpt":{"rendered":"
Google hat am Montag ein neues Belohnungsprogramm eingef\u00fchrt, das sich speziell auf die Erkennung von Fehlern in KI-Produkten konzentriert. Diese Initiative zielt darauf ab, Sicherheitsl\u00fccken und potenzielle Sch\u00e4den durch fehlerhafte Aktionen in Googles KI-Systemen aufzudecken und zu beheben. Das Programm definiert pr\u00e4zise, welche Arten von KI-Fehlern relevant sind, unterteilt sie...<\/p>\n","protected":false},"author":6,"featured_media":14569,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-14570","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/14570","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=14570"}],"version-history":[{"count":3,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/14570\/revisions"}],"predecessor-version":[{"id":14624,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/14570\/revisions\/14624"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/14569"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=14570"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=14570"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=14570"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}