Apple App-Store
- Eine knallpinke Social-Media-App für Frauen nutzt Gesichtserkennung, um Männer zu verbieten.
- Neue Benutzer machen ein Selfie und künstliche Intelligenz entscheidet, ob sie männlich oder weiblich sind.
- Transfrauen sind verboten, und einige Bewertungen sagen, dass die App farbige Frauen fälschlicherweise als Männer identifiziert.
Eine für „Frauen“ vermarktete App wurde im Internet heftig kritisiert, weil sie Transgender-Frauen durch den Einsatz künstlicher Intelligenz ausschließt.
Laut Giggle, das Anfang 2020 erstmals auf den Markt kam The Verge verwendet Gesichtserkennung um festzustellen, ob neue Benutzer männlich oder weiblich sind.
„Die App funktioniert so, dass man bei der Installation ein Foto von sich selbst machen muss und mithilfe von KI Ihr Gesicht analysiert“, sagt Jenny, eine 23-jährige Transfrau aus Kalifornien. „Und wenn es entscheidet, dass du eine Frau bist, lässt es dich rein. Wenn es entscheidet, dass du ein Mann bist, wird es dich ablehnen. Aber wenn es dich ablehnt, kannst du einfach ein weiteres Bild einreichen.“
Der Gründer und CEO von Giggle, Sall Grover, hat sich schroff gegen Online-Kritik gewehrt, einschließlich der Behauptung, dass die App eine Technologie verwendet, die farbige Frauen nicht richtig identifiziert, während er öffentlich eine Ideologie vertritt, die als schädlich für Transmenschen gilt.
„Diese besondere Kombination aus Geschlechterkategorisierung und Gesichtserkennung und Rasse ist etwas, von dem wir absolut wissen, dass es ein Problem ist“, sagte Casey Fiesler, Professor an der University of Colorado Boulder, der Technologieethik studiert, gegenüber Insider.
Das Problem geht jedoch über die fragwürdigen KI-Praktiken der Plattform hinaus. Grover, die es begrüßt hat, als „TERF“ – transausschließende radikale Feministin – bezeichnet zu werden, sagte Insider, dass sie beschlossen habe, Transfrauen von der Plattform auszuschließen, sobald Transaktivisten damit begonnen hätten, sie zu nutzen.
Gemäß Giggles Websitesendet die App das Selfie eines neuen Benutzers an das KI-Unternehmen für Gesichtserkennung Kairos, das das Foto analysiert.
„Durch Computer Vision und Deep Learning erkennen sie Frauen in Videos, Fotos und der realen Welt“, so Giggle. Wenn die Kairos-KI zu 95 % sicher ist, dass die Person weiblich ist, darf die Person ein Konto erstellen, sagt Giggle. Kairos antwortete nicht auf die Bitte von Insider um einen Kommentar.
Grover sagte in einem Dezember-Tweet im Zuge der Kontroverse, dass die App vorübergehend aus dem Google App Store entfernt werden würde, nachdem das Unternehmen mit negativen Bewertungen von Personen ins Visier genommen worden war, die sie in einem Tweet als „männlich“ und „Trolle“ bezeichnete.
Die App wurde im Januar auf Google Play wiederhergestellt und ist weiterhin im App Store verfügbar. Weder Apple noch Google haben die Anfragen von Insider nach Kommentaren dazu beantwortet, ob die App gegen Richtlinien verstoßen hat.
Transsexuelle haben im Dezember in den sozialen Medien wegen Giggle Alarm geschlagen
Victoria Morris, eine 27-jährige Transfrau aus Orlando, Florida, sagte, sie habe zum ersten Mal von Giggle gehört, als sie in Reddit-Foren für Transsexuelle stöberte.
Morris, die sagte, dass sie die App heruntergeladen hatte, sie aber nie zum Laufen bringen konnte, twitterte Anfang Dezember über die vielen negativen Bewertungen, die Giggle im App Store erhalten hatte. Der Tweet, der mehr als 4.000 Mal geteilt wurde, enthielt negative Bewertungen, in denen behauptet wurde, die App suche nach „eurozentrierten Gesichtszügen“, schloss schwarze Frauen und sogar verifizierte Cisgender-Männer aus.
—Victoria ? (@EuphoriTori) 11. Dezember 2021
Jenny, eine Transfrau aus Florida, die darum bat, dass ihr Nachname aus Sicherheitsgründen zurückgehalten wird, sagte gegenüber Insider: „Es war ziemlich einfach, den Filter zu überwinden“, als sie und ihre Freunde vor etwa zwei Jahren zum ersten Mal versuchten, Giggle zu installieren.
„Manchmal brauchte es ein paar Versuche, aber irgendwann würde es funktionieren“, sagte sie.
Sie hat die Plattform Ende letzten Jahres erneut heruntergeladen, als sie sah, dass die Leute in den sozialen Medien darüber diskutierten.
Aber als sie bei Giggle ankam, sagte Jenny, sie habe Beiträge im allgemeinen Diskussionsbereich von Leuten gesehen, die auf „abfällige Weise“ über Transmenschen sprachen.
—jenny_tightpants_ (@halomancer1) 9. Dezember 2021
Nach Jenny hat am 9. Dezember über seinen Beitritt zu Giggle getwittert, Ein anderer Twitter-Nutzer markierte Grover in dem Tweet und behauptete, Jenny habe „die Grenzen von Frauen überschritten“, indem sie die App benutzte. In Beantwortung, Grover antwortete: „Sortiert“ mit einem Herz-Emoji.
Kurz darauf sagte Jenny, dass ihre Giggle-App nicht mehr funktionierte. Sie sagte, sie habe keine formelle Mitteilung erhalten, dass ihr Konto über den Tweet des CEO von Giggle hinaus gekündigt worden sei.
Künstliche Intelligenz, wie sie von Giggle verwendet wird, hat eine Geschichte von Problemen rund um die Rasse
Giggle wurde auch kritisiert, weil er Gesichter nicht erkannt hat, die nicht weiß zu sein scheinen.
Fieseler, Professor an der University of Colorado in Boulder, sagte, Untersuchungen hätten gezeigt, dass die von Giggle verwendete Art der Gesichtsanalyse zu Fällen von Rassismus geführt habe, da die Technologie bei helleren Hauttönen oft besser funktioniere.
„Es funktioniert am besten für weiße Männer und schlechter für schwarze Frauen und zunehmend schlechter ist die Haut der dunkleren Frau in Bezug auf die korrekte Klassifizierung des Geschlechts. Das ist nur etwas, was wir wissen“, sagte sie.
Im Jahr 2019 fand Joy Buolamwini, eine Forscherin am MIT Media Lab, in einer Studie heraus, dass die Kairos-Technologie laut einem Bericht von dunkelhäutige Frauen in 22,5 % der Fälle falsch geschlechtsspezifisch machte Die New York Times. Melissa Doval, die damalige CEO von Kairos, sagte der Times, sie habe nach der Untersuchung Änderungen an ihrem Algorithmus vorgenommen, um seine Genauigkeit zu verbessern.
Morris sagte, Giggle „schien, als würde es sowohl Transfrauen als auch vielen farbigen Frauen schaden oder die nicht die eurozentrischen Funktionen haben, für die die App wirklich entwickelt wurde.“
“Wir wissen nur, dass diese Systeme unvollkommen sind”, sagte Fieseler. “Wenn Sie sie also für das Gatekeeping verwenden, wird es Fehler geben, und es wird wahrscheinlich insbesondere im Rennen zu systematischen Fehlern kommen.”
Grover bestritt, dass die KI der Plattform farbige Frauen daran gehindert habe, sie zu nutzen. Wenn Giggle jemanden fälschlicherweise ablehnt, sollte sich ein potenzieller Benutzer an das Unternehmen wenden, um das Problem beheben zu lassen, sagte Grover Insider in einer E-Mail.
“Frauen jeder Rasse sind nicht nur auf Giggle willkommen, Frauen jeder Rasse sind auf Giggle”, sagte Grover.
Transfrauen waren zunächst auf Giggle erlaubt, wurden aber später von Grover verboten
Grover, die in Australien lebt, sagte, dass sie und ihre Mutter die Idee hatten, Giggle zu kreieren, nachdem sie „viele Gläser Rose“ geteilt hatten.
„Wir wollten einen Ort, an dem Frauen sich gegenseitig helfen können“, sagte sie in einer E-Mail. “Ein weiblicher Raum, in ihrer Handfläche. Wo Frauen Unterstützung, Verbindung und Zuflucht unter anderen Frauen finden konnten, egal wo sie waren oder was sie taten.”
Grover lehnte es ab zu sagen, wie viele Mitarbeiter bei Giggle arbeiten, sagte aber, dass „ein Team von Frauen“ am Onboarding-Prozess der App arbeitet.
In aktuellen Marketingmaterialien auf seinen Social-Media-Kanälen und auf seiner Website behauptet Giggle, eher ein Raum für „Frauen“ als ein Raum für „Frauen“ zu sein. Dies sei beabsichtigt, sagte Grover und fügte hinzu, dass „das Wort ‚Frau‘ so stark angeeignet wurde“, dass „eine Klarstellung notwendig erscheint“.
Grover sagte, sie habe beschlossen, Transfrauen von Giggle auszuschließen, nachdem einige Transfrauen Drohungen gegen TERFs in der App gepostet hatten.
„Es gab einen orchestrierten – wenn auch fehlgeschlagenen – Versuch, Giggle aus dem App Store und Google Play zu entfernen. Es gab einige Medienaufmerksamkeit, die mich alle als TERF und Giggle, Transphobic, bezeichneten“, sagte sie.
Danach sagte sie, sie habe Trans- und „radikalfeministische“ Gemeinschaften recherchiert und entschieden, dass Transfrauen aus ihrer App ausgeschlossen werden sollten.
Die TERF-Ideologie ist schädlich für Transmenschen, sagen Befürworter
Wie Vox berichtet, der Begriff TERF, der Personen bezeichnet, die Transfrauen aus ihrem Feminismus ausschließen, stammt aus den 1970er Jahren, gewann aber ab den frühen 2000er Jahren online an Bedeutung.
Viele Frauen, die eine solche Ideologie entlarven, haben sie abgelehnt und den Begriff als Beleidigung bezeichnet und stattdessen im Gegensatz zu Grover den Spitznamen „geschlechtskritische“ Feministinnen angenommen.
„Das sind Worte, die täglich auf Frauen geworfen werden, die sich für unsere eigenen hart erkämpften Rechte auf Geschlechtsbasis einsetzen“, sagte Grover. „Was soll ich tun? Sich ducken und meine eigenen Rechte aufgeben? Nein. Das wird nie passieren.
Befürworter der Trans-Community sagen, dass eine solche TERF-Ideologie für Trans-Menschen realen Schaden anrichtet. Neben dem Eintreten für den Ausschluss von Transfrauen aus Frauenräumen haben sich TERFs in der Vergangenheit auch gegen den Zugang zu geschlechtsbejahender Pflege für Transmenschen ausgesprochen, wie Canela López von Insider gemeldet.
Fast alle Posts von Grover auf Twitter erwähnen Transmenschen oder biologisches Geschlecht. In einem Tweet vom 31. Dezember Sie schrieb: „Ich bin lieber schrill und kenntnisreich, als so arrogant ignorant zu sein über etwas so Einfaches wie die unveränderliche Binärzahl des biologischen Geschlechts.“
In einem Tweet vom 6. Januar sagte sie kam zur Verteidigung der „Harry Potter“-Autorin JK Rowling, der ebenfalls als TERF bezeichnet wurde für ihre Ansichten über Transmenschen.
Morris, die im Dezember über Giggle getwittert hatte, sagte, sie habe nie mit Grover zu tun gehabt, aber Grover habe einen Tweet geteilt, in dem sie als „Bettlerin“ bezeichnet wurde, nachdem sie einen Link zu einer Spendenaktion für geschlechtsangleichende Operationen gepostet hatte.
In mindestens einem anderen Social-Media-Beitrag schien Grover Trans-Nutzer jedoch über Twitter darüber zu informieren, dass sie von Giggle gebootet worden waren, wie sie es mit Jenny getan hatte.
„Ihr Konto wurde entfernt. Vielen Dank, dass Sie es uns so einfach gemacht haben“, sagte Grover in a Tweet vom 9. Dezember nachdem zwei Transfrauen sagten, sie hätten Giggle machen dürfen.
Jenny sagte, Grover habe am 10. Dezember eine Collage von Tweets von Jenny und ihren Freunden geteilt. Jenny sagte, sie betrachte dies als ihre „Verspottung“ über sie, weil sie die Giggle-App wegen des Versuchs und Scheiterns, Transfrauen auszuschließen, aufgerufen habe.
In dem Tweet vom 10. Dezember schrieb Grover: „Es ist einfach nicht gesund, so wütend auf weibliche Räume zu sein.“