Fehlalarme bei KI-Waffendetektoren: Bedenken und Zweifel an der Technologie

Die Einführung von KI-basierten Waffendetektoren in öffentlichen Bereichen wie U-Bahnstationen hat in den letzten Jahren weltweit an Beliebtheit gewonnen. Befürworter preisen die Technologie als äußerst effektiv im Kampf gegen Waffengewalt und Terrorismus. Doch immer häufiger werden auch kritische Stimmen laut, die Zweifel an der Effektivität und Zuverlässigkeit dieser Systeme äußern.

Ein aktuelles Beispiel hierfür ist der Plan von Eric Adams, dem Bürgermeister von New York City, KI-Waffendetektoren an U-Bahnstationen zu testen. Adams äußerte sich positiv über die Technologie und hob ihre Effektivität hervor. Jedoch wurden bereits kurz nach der Ankündigung Bedenken von Kritikern geäußert, darunter auch von der Legal Aid Society.

Diese Bedenken wurden nun durch eine öffentliche Anfrage bestätigt, die von der Organisation Hell Gate eingereicht wurde. Im Jahr 2022 wurden Evolv-Scanner, die mit KI ausgestattet sind, in einem Krankenhaus in der Bronx installiert. Während der siebenmonatigen Testphase wurden insgesamt 194.000 Scans durchgeführt. Von diesen führten 50.000 zu einem positiven Alarm, wobei sich herausstellte, dass 85 Prozent dieser Alarme falsch positiv waren.

Besonders besorgniserregend ist, dass die überwiegende Mehrheit der falsch positiven Ergebnisse von Polizeibeamten verursacht wurde. Lediglich 295 Alarme wurden durch Zivilisten ausgelöst, die tatsächlich Waffen oder als solche kategorisierte Gegenstände bei sich trugen. Dies geht aus dem Bericht hervor, der von Hell Gate veröffentlicht wurde.

Das Unternehmen Evolv, das die Scanner herstellt, behauptet, dass die Geräte in der Lage sind, jegliche Art von Waffen zu erkennen, angefangen von Schusswaffen bis hin zu Bomben und großen taktischen Messern. Die Scanner arbeiten mit sicherer, ultraniedriger Frequenz, elektromagnetischen Feldern und fortschrittlichen Sensoren, die versteckte Waffen aufspüren sollen.

Jedoch werfen der Pilotversuch von 2022, Branchentests, aktuelle Untersuchungen der Federal Trade Commission und der Securities and Exchange Commission sowie eine Sammelklage von Aktionären Zweifel an der Effektivität der Evolv-Scanner auf. Es scheint, dass die Technologie bei Weitem nicht das hält, was sie verspricht.

Die Ergebnisse des Pilotprojekts in der Bronx werfen auch die Frage auf, ob die KI-Algorithmen, die die Scanner antreiben, tatsächlich in der Lage sind, verlässliche und genaue Ergebnisse zu liefern. Fehlalarme können nicht nur zu unnötigem Aufwand für Sicherheitskräfte führen, sondern auch zu unangenehmen Erfahrungen für unschuldige Passagiere, die fälschlicherweise als Bedrohung eingestuft werden.

Es ist wichtig, dass bei der Einführung solcher Technologien sorgfältige Tests und Überprüfungen durchgeführt werden, um sicherzustellen, dass sie tatsächlich das leisten, was versprochen wird. Die Sicherheit der Bürgerinnen und Bürger sollte immer oberste Priorität haben, aber gleichzeitig dürfen auch Datenschutz und individuelle Freiheit nicht vernachlässigt werden.

Es bleibt abzuwarten, wie die Stadt New York auf die Erkenntnisse reagieren wird und ob weitere Tests und Verbesserungen an den KI-Waffendetektoren vorgenommen werden. Die Diskussion um den Einsatz von KI in der Sicherheitsbranche wird sicherlich weiterhin kontrovers geführt werden.

Schlagwörter: Evolv + New York City + Eric Adams

Wie bewerten Sie den Schreibstil des Artikels?