In einer Welt, in der Algorithmen die Oberhand gewinnen und unsere Zukunft vorhersagen wollen, treten die Ritter der digitalen Freiheit auf den Plan. La Quadrature du Net (LQDN), eine Organisation aus Frankreich, hat den Quellcode des Hauptbewertungsalgorithmus der Caisse d’allocations familiales (CAF) ver\u00f6ffentlicht. Klingt kompliziert? Ja, das ist es auch.<\/p>\n
Der Algorithmus der CAF wird verwendet, um \u00fcber Sozial- und Familienunterst\u00fctzung zu entscheiden. Aber laut LQDN ist er nicht nur ein Algorithmus, sondern ein sch\u00e4dliches System der umfassenden \u00dcberwachung. Und das ist nicht das Schlimmste daran – nein, der Algorithmus hat auch dystopische Aspekte. Das h\u00f6rt sich an wie eine schlechte Science-Fiction-Geschichte, aber leider ist es die Realit\u00e4t.<\/p>\n
Das Ziel des Algorithmus ist es, vorherzusagen, welche Empf\u00e4nger von Hilfeleistungen als unzuverl\u00e4ssig angesehen werden und daher genauer \u00fcberwacht werden sollten. Jeder Empf\u00e4nger wird mit einem Verdachtswert bewertet, der zu Beginn jeden Monats aktualisiert wird. Je h\u00f6her der Wert ist, desto eher wird der Empf\u00e4nger vom System als verd\u00e4chtig eingestuft. Klingt wie ein schlechter Witz, oder?<\/p>\n
Die Kritik der B\u00fcrgerrechtler richtet sich vor allem auf die Diskriminierung bestimmter Gruppen. Der Algorithmus zielt gezielt auf die am st\u00e4rksten gef\u00e4hrdeten Menschen ab. Menschen mit niedrigem Einkommen, Arbeitslosigkeit, Bezug des Mindestlohns oder Wohnsitz in einem benachteiligten Viertel haben es besonders schwer. Auch Menschen mit Behinderungen und alleinstehende Eltern werden gezielt \u00fcberwacht. Das ist wie eine digitale Hexenjagd, aber ohne die lustigen Kost\u00fcme.<\/p>\n
Die CAF behauptet nat\u00fcrlich, dass der Algorithmus neutral ist und Diskriminierung verhindern soll. Aber die B\u00fcrgerrechtler sind da anderer Meinung. Sie haben es geschafft, zumindest die beiden Modelle des Algorithmus zu bekommen, die zwischen 2010 und 2018 verwendet wurden. Und was haben sie herausgefunden? Dass etwa 40 Parameter zur Berechnung des Score-Wertes ber\u00fccksichtigt werden. Das erinnert mich irgendwie an eine komplexe Mathematikaufgabe, die ich in der Schule nie verstanden habe.<\/p>\n
Jetzt plant La Quadrature du Net, auch die Algorithmen zur Berechnung von Kranken- und Altersversicherungen zu \u00fcberpr\u00fcfen. Sie wollen den Kampf gegen diskriminierende IT-Systeme ausweiten. Sie k\u00e4mpfen f\u00fcr die Einrichtung eines Transparenzregisters f\u00fcr K\u00fcnstliche Intelligenz im \u00f6ffentlichen Sektor. Klingt nach einem guten Plan, oder?<\/p>\n
\u00c4hnliche Vorf\u00e4lle in anderen L\u00e4ndern haben gezeigt, wie verheerend die Auswirkungen sein k\u00f6nnen, wenn die \u00f6ffentliche Verwaltung ihre Prozesse automatisiert und dabei Fehler macht. Die Kindergeldaff\u00e4re in den Niederlanden und ein \u00e4hnlicher Vorfall in Australien sind nur zwei Beispiele daf\u00fcr. La Quadrature du Net m\u00f6chte solche Fehler verhindern und setzt sich f\u00fcr den Schutz der B\u00fcrgerrechte ein. Sie sind die Helden der digitalen Welt, die uns vor den b\u00f6sen Algorithmen retten wollen.<\/p>\n
Also, falls ihr das n\u00e4chste Mal auf einen Algorithmus trefft, der euch herabw\u00fcrdigt und diskriminiert, wisst ihr, wer euch retten kann. La Quadrature du Net – die Ritter der digitalen Freiheit!<\/p>\n
Schlagw\u00f6rter: Algorithmus + Massen\u00fcberwachung + Transparenzregister<\/p>\n","protected":false},"excerpt":{"rendered":"
In einer Welt, in der Algorithmen die Oberhand gewinnen und unsere Zukunft vorhersagen wollen, treten die Ritter der digitalen Freiheit auf den Plan. La Quadrature du Net (LQDN), eine Organisation aus Frankreich, hat den Quellcode des Hauptbewertungsalgorithmus der Caisse d’allocations familiales (CAF) ver\u00f6ffentlicht. Klingt kompliziert? Ja, das ist es auch....<\/p>\n","protected":false},"author":4,"featured_media":2238,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-2239","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/2239","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2239"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/2239\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/2238"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2239"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2239"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2239"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}