Fabrizio Bensch/Reuters
- Alle sechs bekannten Berichte über falsche Festnahmen aufgrund von Gesichtserkennungstechnologie stammten von Schwarzen.
- Wie Aktivisten seit mehreren Jahren warnen, können Gesichtserkennungstechnologie und KI die Rassenungleichheit bei der Polizeiarbeit verschärfen.
- Mehrere Polizeibehörden im ganzen Land nutzen die Technologie, wobei die Polizei von Baltimore letztes Jahr über 800 Durchsuchungen durchführte, sagte ein Experte.
Seit mehreren Jahren warnen Bürgerrechtsgruppen, Technologieexperten und Aktivisten, dass der Einsatz von Gesichtserkennungstechnologie die Rassenungleichheit bei der Polizeiarbeit nur verstärken wird.
Mit der Zeit wird immer klarer, dass diese Warnungen richtig waren.
Porcha Woodruff – eine Mutter aus Detroit, Michigan – war die erste Frau, die berichtete, dass die Polizei sie mithilfe einer fehlerhaften Gesichtserkennung fälschlicherweise als Verdächtige identifiziert habe. Die New York Times berichtete.
Sie ist nun die sechste Person, die eine falsche Anschuldigung basierend auf Gesichtserkennungstechnologie meldet – und jede Anzeige, die vor ihr kam, wurde laut Times von jemandem eingereicht, der Schwarz ist.
„Ich habe die in der Klage enthaltenen Vorwürfe überprüft. Sie sind sehr besorgniserregend“, schrieb James E. White, Polizeichef von Detroit, in einem Kommentar an Insider. „Wir nehmen diese Angelegenheit sehr ernst.“
Im Mai – Monate nach Woodruffs Verhaftung im vergangenen Februar – erschien ein Forschungsbericht der Strafrechtsexperten Thaddeus L. Johnson und Nastasha N. Johnson gezeigt dass die Gesichtserkennung dazu führt, dass Polizeibehörden unverhältnismäßig häufig Schwarze verhaften.
„Wir glauben, dass dies auf Faktoren zurückzuführen ist, zu denen das Fehlen schwarzer Gesichter in den Trainingsdatensätzen der Algorithmen, die Überzeugung, dass diese Programme unfehlbar sind, und die Tendenz der Voreingenommenheit der Beamten, diese Probleme zu vergrößern, gehören“, so die Forscher schrieb in einem Leitartikel für Scientific American.
Die Untersuchung zeigte auch, dass Schwarze in Datenbanken mit Fahndungsfotos überrepräsentiert sind, was die KI verzerrt.
„Folglich ist es wahrscheinlicher, dass KI schwarze Gesichter als kriminell markiert, was dazu führt, dass unschuldige Schwarze ins Visier genommen und verhaftet werden“, schrieben sie.
Mehrere Polizeibehörden im ganzen Land nutzen Gesichtserkennungstechnologie, um Verdächtige bei bestimmten Ermittlungen zu identifizieren.
Wired berichtete dass Deborah Levi, eine Pflichtverteidigerin aus Maryland, sagte, das Baltimore Police Department habe im Jahr 2022 fast 800 Gesichtserkennungsdurchsuchungen durchgeführt. Das Detroit Police Department führt jedes Jahr etwa 125 Gesichtserkennungsdurchsuchungen durch. berichtete die Times.
Die Polizei von Baltimore reagierte vor der Veröffentlichung nicht auf die Bitte von Insider um einen Kommentar.
Im Jahr 2020 sagte der Polizeichef von Detroit, dass seine Gesichtserkennungstechnologie bei alleiniger Verwendung in 96 % der Fälle versagt, wie Insider zuvor berichtete.
„Dies ist eine äußerst gefährliche Praxis, die, soweit wir wissen, zu mehreren falschen Verhaftungen geführt hat“, sagte Phil Mayor, ein leitender Anwalt der American Civil Liberties Union of Michigan, gegenüber der Times.
Der Bürgermeister vertritt derzeit Robert Williams, einen weiteren Einwohner von Detroit, der im Jahr 2020 eine Anzeige wegen einer falschen Festnahme aufgrund von Gesichtserkennungstechnologie erstattete.
„Mit mangelhafter Technologie werden mangelhafte Ermittlungen durchgeführt, und die Zusicherungen der Polizei, dass sie ernsthafte Ermittlungen durchführen werden, klingen nicht wahr“, sagte der Bürgermeister der Times.
Diese Geschichte wurde um 16:00 Uhr aktualisiert und enthält nun auch einen Kommentar des Polizeichefs von Detroit, James E. White.