KI-Chatbots sind heutzutage allgegenw\u00e4rtig und versprechen schnelle und bequeme L\u00f6sungen f\u00fcr unsere Fragen und Probleme. Doch was passiert, wenn diese intelligenten Programme falsche oder sogar gesetzeswidrige Ratschl\u00e4ge geben? Genau das ist der Fall beim KI-Chatbot MyCity, der von New York City angeboten wird.<\/p>\n
Die Stadt New York hat entschieden, den Chatbot trotz bekannter Probleme online zu lassen. B\u00fcrgermeister Eric Adams gibt zu, dass die Technologie in einigen Bereichen fehlerhaft ist, argumentiert jedoch, dass nur \u00e4ngstliche Personen solchen Problemen aus dem Weg gehen w\u00fcrden. Tja, da haben wir’s, liebe Leute. Wer Angst hat, sollte lieber die Finger vom Chatbot lassen. Problem gel\u00f6st!<\/p>\n
Doch Spa\u00df beiseite, es gibt durchaus berechtigte Kritik an diesem Vorgehen. Immerhin handelt es sich bei dem MyCity Chatbot um einen staatlichen Service, der von den B\u00fcrgern und B\u00fcrgerinnen genutzt wird. Eine Expertin im Bereich der Informatik hat das Vorgehen als r\u00fccksichtslos und unverantwortlich bezeichnet. Und das hat sie nicht ohne Grund getan.<\/p>\n
Laut einem Bericht des US-Magazins The Markup gibt der KI-Chatbot MyCity falsche Informationen und Ratschl\u00e4ge. Zum Beispiel behauptet er, dass Restaurants K\u00e4se servieren k\u00f6nnen, der von Ratten angeknabbert wurde. Na dann, guten Appetit! Auch wird f\u00e4lschlicherweise behauptet, dass es ausreiche, lediglich den Umfang des Schadens zu \u00fcberpr\u00fcfen und die Kunden zu informieren. Und das ist noch nicht alles. Der Chatbot r\u00e4t sogar dazu, Mitarbeiter zu entlassen, wenn sie sich \u00fcber sexuelle Bel\u00e4stigung beschweren, ihre Schwangerschaft verheimlichen oder sich weigern, ihre Dreadlocks abzuschneiden. Das sind klare Verst\u00f6\u00dfe gegen gesetzliche Bestimmungen.<\/p>\n
Die Informatikexpertin Julia Stoyanovich von der Universit\u00e4t New York ist besorgt \u00fcber dieses Vorgehen. Sie kritisiert, dass eine nicht \u00fcberpr\u00fcfte Software ohne Aufsicht freigegeben wurde. Das sei r\u00fccksichtslos und unverantwortlich. Da kann man ihr nur zustimmen. Es ist offensichtlich, dass die Verantwortlichen nicht beabsichtigen, verantwortungsvoll zu handeln. Schlie\u00dflich ist dies nicht der erste Vorfall, bei dem ein Chatbot falsche Informationen liefert. Erst im Februar wurde Air Canada zur Erstattung verpflichtet, nachdem ihr Chatbot \u00e4hnliche Probleme hatte.<\/p>\n
Jevin West von der Universit\u00e4t Washington weist jedoch darauf hin, dass es sich hier um eine staatliche Einrichtung handelt. Die Wahrnehmung von Regierungen erfolgt mit einem deutlich anderen Vertrauen. Daher sollten die Verantwortlichen sich bewusst sein, welche Konsequenzen es haben k\u00f6nnte, wenn jemand den Anweisungen des Chatbots folgt und dadurch in Schwierigkeiten ger\u00e4t.<\/p>\n
Am Ende bleibt die Frage, warum New York City den fehlerhaften Chatbot nicht offline nimmt und die Probleme behebt, bevor er wieder online geht. Stattdessen verl\u00e4sst man sich darauf, dass die Benutzer und Benutzerinnen die Fehler selbst entdecken und so zur Verbesserung der Technologie beitragen. Das mag in manchen F\u00e4llen funktionieren, aber bei einem staatlichen Service sollte man doch etwas mehr Verantwortung zeigen.<\/p>\n
In Zukunft sollten staatliche Stellen sicherstellen, dass ihre KI-Chatbots korrekte und gesetzeskonforme Ratschl\u00e4ge geben. Denn schlie\u00dflich vertrauen die Menschen auf diese Technologie, und es ist nicht fair, sie mit falschen Informationen und m\u00f6glichen Konsequenzen alleine zu lassen. Es bleibt zu hoffen, dass New York City aus diesem Vorfall lernt und in Zukunft sorgf\u00e4ltiger mit solchen Technologien umgeht.<\/p>\n
Schlagw\u00f6rter: New York City + New York + AP<\/p>\n","protected":false},"excerpt":{"rendered":"
KI-Chatbots sind heutzutage allgegenw\u00e4rtig und versprechen schnelle und bequeme L\u00f6sungen f\u00fcr unsere Fragen und Probleme. Doch was passiert, wenn diese intelligenten Programme falsche oder sogar gesetzeswidrige Ratschl\u00e4ge geben? Genau das ist der Fall beim KI-Chatbot MyCity, der von New York City angeboten wird. Die Stadt New York hat entschieden, den...<\/p>\n","protected":false},"author":4,"featured_media":6266,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-6267","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/6267","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=6267"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/6267\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/6266"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=6267"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=6267"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=6267"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}