Wenn man den Suchbegriff „KI-Fehler“ in eine Suchmaschine eingibt, bekommt man schnell eine Ahnung davon, wie weitreichend das Problem ist. Von am\u00fcsanten Fehlern wie Hunden in der NBA bis hin zu rassistischen Chatbots und Geschichten \u00fcber Bilderkennungssoftware, die Menschen mit Tieren verwechselt, gibt es eine Vielzahl von Vorf\u00e4llen. Es ist offensichtlich, dass KI gelegentlich Fehler macht, manchmal sogar \u00e4u\u00dferst schwerwiegende.<\/p>\n
In der heutigen Zeit trifft K\u00fcnstliche Intelligenz bereits bedeutsame Entscheidungen, die einen erheblichen Einfluss auf das Leben von Menschen haben k\u00f6nnen. KI-Systeme werden beispielsweise in Bereichen wie der Kreditvergabe, Bewerbungsverfahren und der Medizin eingesetzt. Je nach Situation erh\u00e4lt der Kreditsuchende entweder kein Angebot, einen kostspieligen oder einen preiswerten Kredit. Im Rahmen von Bewerbungsverfahren scheiden mithilfe von KI unpassende Bewerber aus. Mediziner erhalten Unterst\u00fctzung bei der Erkennung von Tumoren im K\u00f6rper durch den Einsatz von KI-gest\u00fctzter Bildverarbeitungssoftware.<\/p>\n
Um sicherzustellen, dass die Entscheidungen von solchen KI-Systemen so gerecht wie m\u00f6glich sind, hat die Europ\u00e4ische Kommission vor Kurzem den AI Act verabschiedet, ein Gesetz, das sich mit K\u00fcnstlicher Intelligenz befasst. Dieses Gesetz legt fest, dass Hochrisiko-KI-Systeme, die einen erheblichen Einfluss auf das menschliche Leben haben k\u00f6nnen, effektiv von Menschen \u00fcberwacht werden sollen. Der genaue Bedeutungsumfang und die Unterscheidung zwischen effektiver und ineffektiver menschlicher Aufsicht wurden jedoch nicht pr\u00e4zise festgelegt.<\/p>\n
Eine interdisziplin\u00e4re Gruppe von Forschern aus den Bereichen Informatik, Philosophie, Psychologie und Rechtswissenschaft von den Universit\u00e4ten im Saarland, Dresden und Freiburg hat sich dieser komplexen Fragestellung gewidmet. Sie haben nun ein Regelwerk mit Kriterien entwickelt, das Entwicklern, Anwendern, Gesetzgebern und Gerichten einen Leitfaden zur Verf\u00fcgung stellt, um eine effektive \u00dcberwachung sicherzustellen.<\/p>\n
Sarah Sterz, die Erstautorin des vielbeachteten Aufsatzes, erkl\u00e4rt, dass sie vier Kriterien festgelegt haben, die eine Person erf\u00fcllen muss, um eine effektive Aufsicht \u00fcber ein KI-System sicherzustellen. Diese Kriterien wurden im Juni auf der ACM-Konferenz \u00fcber Fairness, Rechenschaftspflicht und Transparenz pr\u00e4sentiert. Kevin Baum betont, dass dies die bedeutendste Konferenz weltweit f\u00fcr derartige Themen ist. Baum ist Leiter des Center for European Research in Trusted Artificial Intelligence (CERTAIN) am Deutschen Forschungszentrum f\u00fcr K\u00fcnstliche Intelligenz (DFKI) in Saarbr\u00fccken und Mitautor des Papers.<\/p>\n
Das erste Kriterium besagt, dass eine menschliche Aufsichtsperson kausale Kontrolle \u00fcber das System haben muss. Das bedeutet, dass der Mensch in der Lage sein muss, in das System einzugreifen und dessen Entscheidungen zu \u00fcberstimmen. In der Praxis k\u00f6nnte dies beispielsweise durch einen Not-Aus-Schalter an einem Roboter in einer Industriehalle erfolgen oder durch die M\u00f6glichkeit, eine KI zu \u00fcberstimmen, die im Bewerbungsverfahren dar\u00fcber entscheidet, wer eingeladen wird und wer nicht.<\/p>\n
Des Weiteren ist es wichtig, dass die menschliche Aufsicht \u00fcber das Verst\u00e4ndnis dar\u00fcber verf\u00fcgt, wie das System arbeitet und welche Auswirkungen ihre Eingriffe h\u00e4tten. Sarah Sterz erkl\u00e4rt weiterhin, dass sie ein Verst\u00e4ndnis daf\u00fcr haben muss, wie das KI-System funktioniert und welche Handlungsoptionen ihr zur Verf\u00fcgung stehen.<\/p>\n
Dar\u00fcber hinaus betont Sarah Sterz, dass die Person \u00fcber ausreichend Selbstkontrolle verf\u00fcgen muss, um eine KI effektiv zu \u00fcberwachen. Es ist erforderlich, dass die Person geistig und k\u00f6rperlich in der Lage ist, diese Verantwortung zu erf\u00fcllen. Die Informatikerin nennt drei Beispiele, bei denen man beispielsweise nicht betrunken, \u00fcberm\u00fcdet oder gelangweilt sein sollte. Bei der 201. Bewerbung kann es passieren, dass jemand, der bereits 200 Bewerbungen gesichtet hat, Fehler macht. Die Wissenschaftlerin gibt ein praxisnahes Beispiel f\u00fcr dieses Kriterium, das verdeutlicht, dass jemand in diesem Zustand nicht mehr in der Lage w\u00e4re, eine effektive Aufsicht \u00fcber ein KI-System auszu\u00fcben.<\/p>\n
Ein weiteres wichtiges Kriterium, wie von Sarah Sterz und ihren Co-Autoren definiert, ist, dass die Person die richtigen Absichten haben sollte. Sarah Sterz gibt ein anschauliches Beispiel daf\u00fcr, dass Superschurken, selbst wenn sie das Verst\u00e4ndnis, die konkrete kausale Macht und die ausreichende Selbstkontrolle besitzen, ungeeignet w\u00e4ren, KI-Systeme zu beaufsichtigen. Ein Schurke wie Dr. Evil aus Austin Powers w\u00e4re daher nicht geeignet, die Aufsicht \u00fcber eine KI zu haben, da es nicht in seiner Natur liegt, die Risiken der KI zum Wohl der Menschen zu minimieren.<\/p>\n
Kevin Baum, Experte in Informatik und Philosophie, erl\u00e4utert, warum solche Regeln wichtig sind: Unabh\u00e4ngig davon, wie weit die Technologie fortschreitet, werden KI-Systeme immer Fehler machen. Noch besorgniserregender ist die Tatsache, dass es grunds\u00e4tzlich mathematisch unm\u00f6glich ist, ein KI-System zu entwickeln, das dieselben Fehler mit gleicher Wahrscheinlichkeit f\u00fcr alle Personen macht. Daher ist ein solcher Rahmen, wie wir ihn geschaffen haben, von gro\u00dfer Bedeutung, um menschlichen Aufsichtspersonen die M\u00f6glichkeit zu geben, Fehler fr\u00fchzeitig zu erkennen und sch\u00e4dliche Ergebnisse zu verhindern.<\/p>\n
Die Komplexit\u00e4t dieser Fragestellung wird durch die Beteiligung einer Vielzahl von wissenschaftlichen Disziplinen deutlich. Die Frage nach der menschlichen \u00dcberwachung von KI geht \u00fcber rein juristische, philosophische, psychologische oder informationstechnische Aspekte hinaus. Kevin Baum erkl\u00e4rt, dass es vielmehr eine Frage ist, die die Perspektiven all dieser Fachrichtungen miteinander verbinden muss.<\/p>\n
Die Europ\u00e4ische Kommission hat bereits deutlich gemacht, wie wichtig sie diese Frage findet, indem sie Sarah Sterz, Kevin Baum und ihre Kollegen vom Europ\u00e4ischen Amt f\u00fcr K\u00fcnstliche Intelligenz im September nach Schweden einlud, um den Teilnehmern dort ihr Grundsatzpapier zu pr\u00e4sentieren und zu erl\u00e4utern.<\/p>\n
Also, liebe KI-Systeme, das n\u00e4chste Mal, wenn ihr uns mit euren lustigen oder rassistischen Fehlern \u00fcberrascht, hoffen wir, dass es eine effektive menschliche Aufsicht gibt, die uns vor solchen Vorf\u00e4llen bewahrt. Denn letztendlich wollen wir doch alle, dass K\u00fcnstliche Intelligenz uns hilft und nicht f\u00fcr Chaos sorgt, oder?<\/p>\n
Schlagw\u00f6rter: Erstautorin Sarah Sterz + KI fails\u201c + Kevin Baum<\/p>\n","protected":false},"excerpt":{"rendered":"
Wenn man den Suchbegriff „KI-Fehler“ in eine Suchmaschine eingibt, bekommt man schnell eine Ahnung davon, wie weitreichend das Problem ist. Von am\u00fcsanten Fehlern wie Hunden in der NBA bis hin zu rassistischen Chatbots und Geschichten \u00fcber Bilderkennungssoftware, die Menschen mit Tieren verwechselt, gibt es eine Vielzahl von Vorf\u00e4llen. Es ist...<\/p>\n","protected":false},"author":4,"featured_media":8817,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-8818","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/8818","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=8818"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/8818\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/8817"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=8818"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=8818"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=8818"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}