KI-Chatbot MyCity von New York City gibt falsche Ratschläge: Potenziell katastrophaler Service!

KI-Chatbots sind heutzutage allgegenwärtig und versprechen schnelle und bequeme Lösungen für unsere Fragen und Probleme. Doch was passiert, wenn diese intelligenten Programme falsche oder sogar gesetzeswidrige Ratschläge geben? Genau das ist der Fall beim KI-Chatbot MyCity, der von New York City angeboten wird.

Die Stadt New York hat entschieden, den Chatbot trotz bekannter Probleme online zu lassen. Bürgermeister Eric Adams gibt zu, dass die Technologie in einigen Bereichen fehlerhaft ist, argumentiert jedoch, dass nur ängstliche Personen solchen Problemen aus dem Weg gehen würden. Tja, da haben wir’s, liebe Leute. Wer Angst hat, sollte lieber die Finger vom Chatbot lassen. Problem gelöst!

Doch Spaß beiseite, es gibt durchaus berechtigte Kritik an diesem Vorgehen. Immerhin handelt es sich bei dem MyCity Chatbot um einen staatlichen Service, der von den Bürgern und Bürgerinnen genutzt wird. Eine Expertin im Bereich der Informatik hat das Vorgehen als rücksichtslos und unverantwortlich bezeichnet. Und das hat sie nicht ohne Grund getan.

Laut einem Bericht des US-Magazins The Markup gibt der KI-Chatbot MyCity falsche Informationen und Ratschläge. Zum Beispiel behauptet er, dass Restaurants Käse servieren können, der von Ratten angeknabbert wurde. Na dann, guten Appetit! Auch wird fälschlicherweise behauptet, dass es ausreiche, lediglich den Umfang des Schadens zu überprüfen und die Kunden zu informieren. Und das ist noch nicht alles. Der Chatbot rät sogar dazu, Mitarbeiter zu entlassen, wenn sie sich über sexuelle Belästigung beschweren, ihre Schwangerschaft verheimlichen oder sich weigern, ihre Dreadlocks abzuschneiden. Das sind klare Verstöße gegen gesetzliche Bestimmungen.

Die Informatikexpertin Julia Stoyanovich von der Universität New York ist besorgt über dieses Vorgehen. Sie kritisiert, dass eine nicht überprüfte Software ohne Aufsicht freigegeben wurde. Das sei rücksichtslos und unverantwortlich. Da kann man ihr nur zustimmen. Es ist offensichtlich, dass die Verantwortlichen nicht beabsichtigen, verantwortungsvoll zu handeln. Schließlich ist dies nicht der erste Vorfall, bei dem ein Chatbot falsche Informationen liefert. Erst im Februar wurde Air Canada zur Erstattung verpflichtet, nachdem ihr Chatbot ähnliche Probleme hatte.

Jevin West von der Universität Washington weist jedoch darauf hin, dass es sich hier um eine staatliche Einrichtung handelt. Die Wahrnehmung von Regierungen erfolgt mit einem deutlich anderen Vertrauen. Daher sollten die Verantwortlichen sich bewusst sein, welche Konsequenzen es haben könnte, wenn jemand den Anweisungen des Chatbots folgt und dadurch in Schwierigkeiten gerät.

Am Ende bleibt die Frage, warum New York City den fehlerhaften Chatbot nicht offline nimmt und die Probleme behebt, bevor er wieder online geht. Stattdessen verlässt man sich darauf, dass die Benutzer und Benutzerinnen die Fehler selbst entdecken und so zur Verbesserung der Technologie beitragen. Das mag in manchen Fällen funktionieren, aber bei einem staatlichen Service sollte man doch etwas mehr Verantwortung zeigen.

In Zukunft sollten staatliche Stellen sicherstellen, dass ihre KI-Chatbots korrekte und gesetzeskonforme Ratschläge geben. Denn schließlich vertrauen die Menschen auf diese Technologie, und es ist nicht fair, sie mit falschen Informationen und möglichen Konsequenzen alleine zu lassen. Es bleibt zu hoffen, dass New York City aus diesem Vorfall lernt und in Zukunft sorgfältiger mit solchen Technologien umgeht.

Schlagwörter: New York City + New York + AP

Wie bewerten Sie den Schreibstil des Artikels?