Der sogenannte Bias, oder auf gut Deutsch Vorurteil, ist ein Problem, das bei vielen KI-Anwendungen auftreten kann. Denn k\u00fcnstliche Intelligenz entwickelt Vorurteile basierend auf den Trainingsdaten. Wenn eine medizinische KI haupts\u00e4chlich mit Daten m\u00e4nnlicher Patienten trainiert wurde, k\u00f6nnte das dazu f\u00fchren, dass Frauen m\u00f6glicherweise schlechter oder sogar fehlerhaft diagnostiziert werden. Das ist nat\u00fcrlich nicht optimal, da Frauen genauso krank werden wie M\u00e4nner. Und ja, auch Frauen k\u00f6nnen sich mal eine Erk\u00e4ltung oder eine unangenehme Hautkrankheit einfangen.<\/p>\n
Aber das ist noch nicht alles! Auch Gesichtserkennungssysteme oder KI-gesteuerte Recruiting-Apps k\u00f6nnen falsche Urteile f\u00e4llen. Stellt euch vor, ihr bewerbt euch mit einem hochprofessionellen Selfie auf einen Job und die KI sagt euch, dass ihr f\u00fcr die Position eines Pl\u00fcschtierdesigners viel zu seri\u00f6s ausseht. Das w\u00e4re doch echt \u00e4rgerlich, oder?<\/p>\n
Deshalb ist es wichtig, dass der AI-Act in der Europ\u00e4ischen Union den Bias in den Griff bekommt. Lena Rohrbach von Amnesty International hat in ihrem Bericht einige Beispiele genannt, in denen KI in Europa erheblichen Schaden angerichtet hat. Zum Beispiel hat die niederl\u00e4ndische Steuerbeh\u00f6rde einen KI-Algorithmus benutzt, um Familien aufzusp\u00fcren, die angeblich zu Unrecht Kindergeld erhalten haben. Tja, das hat zu einigen unangenehmen \u00dcberraschungen gef\u00fchrt. \u00dcber 20.000 Familien wurden benachrichtigt, dass sie angeblich zu viel Kindergeld bekommen haben und das jetzt zur\u00fcckzahlen m\u00fcssen. Das ist wie ein Schlag ins Gesicht \u2013 oder besser gesagt, ins Portemonnaie.<\/p>\n
Was besonders \u00e4rgerlich ist, ist dass die Familien nicht einmal wussten, dass eine KI \u00fcber ihre finanzielle Zukunft entschieden hat. Das ist wie eine b\u00f6se \u00dcberraschung von einem Roboter, der pl\u00f6tzlich mit der Polizei droht, wenn man nicht sofort das Geld zur\u00fcckzahlt. Also, liebe Leute, Transparenz ist das A und O! Wir m\u00fcssen wissen, wann und wo KI eingesetzt wird, damit wir nicht von ihr \u00fcberrumpelt werden.<\/p>\n
Amnesty International setzt sich daf\u00fcr ein, dass diese Transparenz verpflichtend wird. Denn einige Regierungen versuchen, KI ohne klare Regeln und Vorschriften in Sicherheits- und Migrationsbeh\u00f6rden einzusetzen. Das ist wirklich bedenklich, denn diese Beh\u00f6rden haben Macht \u00fcber uns und k\u00f6nnen in unsere Grund- und Menschenrechte eingreifen. Stellt euch vor, die Polizei benutzt eine Predictive-Policing-KI, um zu entscheiden, ob sie bei euch zuhause eine Razzia macht. Da w\u00e4re es doch gut zu wissen, ob eine Maschine hinter dieser Entscheidung steckt oder nicht.<\/p>\n
Der AI-Act soll also genau das regeln und KI innerhalb der EU regulieren, um m\u00f6glichen Schaden zu vermeiden. Aber leider gibt es gerade Verhandlungsprobleme zwischen dem EU-Parlament und den Mitgliedstaaten. Sie k\u00f6nnen sich einfach nicht einigen, ob Basismodelle wie GPT-4 von OpenAI oder PaLM 2 von Google reguliert werden sollen oder nicht. Tja, da steckt der Teufel im Detail. Hoffen wir, dass sie sich bald einig werden und wir uns auf KI verlassen k\u00f6nnen, ohne uns Sorgen um Vorurteile und falsche Entscheidungen machen zu m\u00fcssen.<\/p>\n
Schlagw\u00f6rter: Bias + Transparenz + Regulierung<\/p>\n","protected":false},"excerpt":{"rendered":"
Der sogenannte Bias, oder auf gut Deutsch Vorurteil, ist ein Problem, das bei vielen KI-Anwendungen auftreten kann. Denn k\u00fcnstliche Intelligenz entwickelt Vorurteile basierend auf den Trainingsdaten. Wenn eine medizinische KI haupts\u00e4chlich mit Daten m\u00e4nnlicher Patienten trainiert wurde, k\u00f6nnte das dazu f\u00fchren, dass Frauen m\u00f6glicherweise schlechter oder sogar fehlerhaft diagnostiziert werden....<\/p>\n","protected":false},"author":4,"featured_media":1771,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1772","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/1772","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1772"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/1772\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/1771"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1772"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1772"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1772"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}