Google startet Belohnungsprogramm zur Fehlererkennung in KI-Systemen

Google hat am Montag ein neues Belohnungsprogramm eingeführt, das sich speziell auf die Erkennung von Fehlern in KI-Produkten konzentriert. Diese Initiative zielt darauf ab, Sicherheitslücken und potenzielle Schäden durch fehlerhafte Aktionen in Googles KI-Systemen aufzudecken und zu beheben. Das Programm definiert präzise, welche Arten von KI-Fehlern relevant sind, unterteilt sie in Kategorien und bietet Anreize für deren Aufdeckung durch externe Experten. Ein Fokus liegt auf Fehlern, die durch große Sprachmodelle oder generative KI-Systeme entstehen können, um Schaden anzurichten oder Sicherheitsmängel auszunutzen. Beispiele hierfür umfassen Manipulationen von Benutzerkonten oder Daten zur Gefährdung der Sicherheit sowie Aktionen wie das Öffnen von smarten Jalousien oder das Abschalten des Lichts durch manipulierte Google-Kalenderereignisse.

Im Rahmen dieses Programms werden Fehlerjäger für das Aufspüren solcher fehlerhaften Aktionen belohnt, wobei die Prämien je nach Schweregrad und Produktkategorie variieren. Besonders hohe Auszeichnungen sind für Fehler in wichtigen Produkten wie der Google-Suche, Gemini-Apps sowie den Kernanwendungen von Workspace wie Gmail und Drive vorgesehen. Google betont, dass dieses Programm nicht allein auf finanzielle Belohnungen beschränkt ist. Es sieht auch einen Mechanismus vor, durch den aufgedeckte Fehler direkt in die Verbesserung der KI-Sicherheit eingehen. So sollen menschliche Forscher identifizierte Schwachstellen in Open-Source-Projekten beheben, und Google implementiert gezielte Sicherheits-Trainings für seine Modelle, basierend auf den gefundenen Fehlern. Ein Beispiel dafür ist CodeMender, ein KI-Agent, der anfälligen Code repariert und bereits 72 Sicherheitsfixes in Open-Source-Projekten ermöglicht hat.

Schlagwörter: Google + KI

Wie bewerten Sie den Schreibstil des Artikels?