Delta Airlines
- Gesichtserkennungstechnologie ist überall aufgetaucht.
- Aber es hat immer noch Probleme, Gesichter zu identifizieren, insbesondere die von farbigen Menschen.
- Das bedeutet, dass die Technologie unschuldige Benutzer als des Betrugs oder des Ladendiebstahls kennzeichnen kann, sagte ein Experte.
Gesichtserkennungstechnologie ist überall, von Ihrem iPhone über Süßigkeitenautomaten bis hin zur TSA.
Aber es gibt ein Problem: Es kann sein, dass es Sie nicht erkennt.
Das ist ein Problem, mit dem einige Gig-Mitarbeiter des Walmart-Lieferservices Spark konfrontiert waren, berichtete Business Insider letzten Monat. Seit letztem Herbst fordert Spark seine Fahrer auf, in regelmäßigen Abständen zu überprüfen, ob sie die Person sind, für die sie sich ausgeben, indem sie drei Selfies über die App machen, die dann die Fotos mit dem gespeicherten Lichtbildausweis vergleicht.
Einige Fahrer sagen jedoch, dass sie durch die Gesichtserkennungsprüfung nach der Identitätsprüfung von der App ausgeschlossen wurden – obwohl sie ein Konto auf ihren Namen verwendeten.
Es stellt sich heraus, dass solche Erfahrungen in der breiteren Welt der Gesichtserkennung nicht ungewöhnlich sind. Darüber hinaus kommen sie besonders häufig vor, wenn Sie eine farbige Person sind.
Bei der Gesichtserkennung werden farbige Menschen häufig falsch identifiziert
Joy Buolamwini, Forscherin am MIT Media Lab, fand heraus, dass die Gesichtserkennungstechnologie in bis zu 35 % der Fälle schwarze Frauen falsch identifizierte Die New York Times berichtete im Jahr 2018. Weiße Männer hingegen wurden nur in 1 % der Fälle falsch identifiziert.
Der Grund: KI-Modelle werden überproportional aus Fotos weißer Männer aufgebaut. Wenn weniger Fotos von Menschen anderer Rassen- und Geschlechtergruppen verwendet würden, sei die Gesichtserkennungstechnologie weniger genau bei der Identifizierung von Menschen mit diesem Hintergrund, heißt es in der Studie.
Eine Bundesstudie aus dem Jahr 2019 lieferte ähnliche Beweise und kam zu dem Ergebnis, dass Asiaten, Afroamerikaner und Frauen viel häufiger durch die Technologie fälschlicherweise identifiziert werden als weiße Männer.
Und ein 2022 Bericht des MIT Technology Review fanden heraus, dass die Gesichtserkennungsfunktion von Uber, die ähnlich wie Spark zur Identitätsüberprüfung verwendet wird, Fahrer in Indien möglicherweise falsch identifiziert hat, teilweise weil KI-Modelle nicht so gut auf südasiatische Gesichter trainiert sind wie auf weiße.
Der Bericht deutete auch darauf hin, dass eine einfache Änderung des Aussehens wie das Wachsen eines Bartes die Technik daran hindern könnte, das Gesicht einer Person zu erkennen.
Entwickler der Gesichtserkennung sagen, dass Fehler möglich sind
Nichts davon scheint die Einführung der Technologie an neuen Orten verhindert zu haben. Große Vermieter haben die Technologie beispielsweise in Bürogebäuden eingebaut, da die Arbeiter in die Büros zurückgekehrt sind.
Flugpassagiere können an mehreren Stellen eines Flughafens auf Gesichtserkennung stoßen, von der Sicherheitskontrolle bis zur Zoll- und Passkontrolle, so die New York Times gemeldet im Februar.
Walmart arbeitete mit einem Unternehmen namens Persona zusammen, um seiner Spark-App Gesichtserkennung hinzuzufügen. Auf der Website von Persona werden zwar nicht ausdrücklich Probleme bei der Identifizierung von farbigen Menschen erwähnt, es wird jedoch anerkannt, dass die Technologie mit Tücken behaftet ist.
„Zum Beispiel könnte die Brille einer anderen Person dem System vorgaukeln, es handele sich um eine Spiegelung auf einem Bildschirm, oder ein Foto mit niedriger Auflösung könnte dem System vorgaukeln, es handele sich um eine digitale Wiedergabe.“ seine Website liest.
„Diese Mängel können das Risiko falsch negativer Ergebnisse während des Verifizierungsprozesses erhöhen, was dazu führen kann, dass legitimen Benutzern die Verifizierung verweigert wird“, heißt es weiter. Persona und Walmart antworteten nicht auf Anfragen von BI nach Informationen über die Technologie oder Partnerschaft.
Die TSA und die CBP antworteten nicht auf Anfragen von BI nach Kommentaren. Ein TSA-Sprecher sagte der New York Times im Februar, dass die Einstellung biometrischer Technologien wie der Gesichtserkennung „uns Jahre zurückwerfen würde“, ging aber nicht speziell auf die Rassenunterschiede ein.
Die Versuche von Einzelhändlern, Ladendiebe mithilfe der Gesichtserkennung zu fangen, scheiterten.
In einigen Fällen ist es möglich, auf den Einsatz der Gesichtserkennungstechnologie – und der damit verbundenen hohen Fehlerquote – zu verzichten. Wenn Sie zum Beispiel beim Einsteigen in Ihren nächsten Flug Ihr Gesicht anstelle einer Bordkarte scannen müssen, soll Ihnen der Gate-Agent laut CBP stattdessen eine manuelle Überprüfung Ihres Ausweises und Ihrer Karte anbieten.
Aber es sei oft nicht möglich, die Gesichtserkennung zu umgehen, sagte Gideon Christian, ein Juraprofessor an der University of Calgary, der über die rechtlichen und gesellschaftlichen Aspekte der Gesichtserkennungstechnologie geschrieben hat. Er verwies auf die Entscheidung einiger Einzelhändler, die Technologie in ihren Geschäften einzusetzen, um Ladendiebe zu fangen.
Im Dezember zum Beispiel die FTC sagte dass die Drogeriekette Rite Aid in „Hunderten von Geschäften“ Gesichtserkennungstechnologie zum Nachteil von Frauen und farbigen Menschen missbräuchlich eingesetzt habe.
Der Einsatz der Gesichtserkennungstechnologie durch Rite Aid „hat seinen Kunden Demütigungen und anderen Schaden zugefügt, und die Verstöße gegen die Vorschriften gefährden die sensiblen Daten der Verbraucher“, sagte Samuel Levine, Direktor des Bureau of Consumer Protection der FTC, damals.
Die FTC verbot Rite Aid daher fünf Jahre lang den Einsatz von Gesichtserkennungstechnologie in Geschäften. Rite Aid akzeptierte die Einigung jedoch bestritt die Vorwürfe der FTC darüber, wie und wo die Gesichtserkennung eingesetzt wurde – das Unternehmen gab beispielsweise an, die Technologie nur in „einer begrenzten Anzahl von Geschäften“ getestet zu haben.
Die rassistische Voreingenommenheit der Gesichtserkennung sei die gleiche Voreingenommenheit, die schwarze Menschen bereits erleben, wenn sie einkaufen gehen, sagte Christian.
„Im Grunde gibt es eine Gesichtserkennungstechnologie, die im Grunde dieselben unbegründeten Behauptungen aufstellt, weil das Gesicht mit einer anderen Person in der Datenbank übereinstimmt und dann Alarme auslöst“, sagte Christian in einem Interview.
Christian sagte gegenüber BI, dass der mangelnde Datenschutz und die Genauigkeitsprobleme Grund genug sein sollten, die Nutzung zurückzunehmen.
„Ich halte es nicht für angemessen, dass wir das Grundrecht jedes Menschen, der ein Einzelhandelsgeschäft betritt, verletzen, nur weil wir ein paar Ladendiebe erwischen wollen“, sagte er.
Arbeiten Sie für Walmart Spark, Instacart, DoorDash oder einen anderen Gig-Lieferservice und haben Sie eine Story-Idee, die Sie teilen möchten? Kontaktieren Sie [email protected]