ÖOffiziell erstellt die Lensa-KI-App „magische Avatare“, die die Selfies eines Benutzers in üppig stilisierte Kunstwerke verwandeln. Es wurde von Prominenten wie Chance the Rapper, Tommy Dorfman, Jennifer Love Hewitt und Sam Asghari, dem Ehemann von Britney Spears, angepriesen. Aber für viele Frauen spuckt die App mehr aus, als nur ein hübsches Bild auszuspucken: Das Endergebnis ist hochgradig sexualisiert, polstert Frauenbrüste auf und verwandelt ihre Körper in Sanduhr-Körper.
„Bin es nur ich oder setzen diese KI-Selfie-Generator-Apps Frauenfeindlichkeit fort?“ twitterte Brandee Barker, eine Feministin und Fürsprecherin, die in der Technologiebranche gearbeitet hat. „Hier sind ein paar, die ich nur anhand von Fotos meines Gesichts bekommen habe.“ Eines von Barkers Ergebnissen zeigte, dass sie Haarverlängerungen in Supermodel-Länge und einen tief ausgeschnittenen Catsuit trug. Ein anderer zeigte sie in einem weißen BH, aus dem oben ein Dekolleté herausragte.
„Lensa hat mir eine Brustoperation verpasst! Danke AI!!!” getwittert ein anderer Benutzer, der auch einen nackten Kopfschuss direkt über den Brüsten erhalten hat. „Alle anderen bekommen jede Menge [of] Brüste auf ihren Lensa-Bildern oder nur ich?“ fragte Ein weiterer.
Obwohl die App nicht neu ist (ein ähnliches Programm ging bereits 2016 viral und zog täglich eine Million Nutzer an), ist sie kürzlich an die Spitze der am häufigsten heruntergeladenen Foto- und Video-Apps im App Store von Apple geschossen. Benutzer zahlen eine Gebühr von 7,99 $ und laden 10-20 Selfies hoch, und der Stable Diffusion-Algorithmus stellt 50 Fotos basierend auf den Bildeingabeaufforderungen zusammen.
Um die Software zu testen, hat der Guardian Bilder von drei verschiedenen berühmten Feministinnen hochgeladen: Betty Friedan, Shirley Chisholm und Amelia Earhart. Der Autor von The Feminine Mystique wurde zu einer nymphenartigen, vollbrüstigen jungen Frau, die mit vielen Locken und einem Unterkleid bekleidet war. Chisholm, die erste schwarze Frau, die in den US-Kongress gewählt wurde, hatte eine Wespenvergiftung. Und der Luftfahrtpionier wurde nackt gemacht und lehnte sich an etwas, das wie ein Bett aussah.
Alle vom Guardian eingereichten Fotos zeigten die Ikonen in verschiedenen Phasen ihres Lebens; Die Mehrzahl der KI-gerenderten Fotos, die wir zurückerhielten, zeigten sie ziemlich jung, mit glatter Haut und wenigen Falten.
Barker sagte dem Guardian, dass sie nur Fotos ihres Gesichts auf Lensa AI hochgeladen habe und erwartet habe, beschnittene Kopfschüsse zurückzubekommen. „Das habe ich, aber ich habe auch mehrere sexualisierte, halbbekleidete, großbrüstige, kleinwüchsige ‚Feenprinzessinnen‘, ‚kosmische‘ und ‚Fantasiebilder‘ bekommen“, sagte sie. „Diese sahen überhaupt nicht aus wie ich und waren peinlich, ja sogar alarmierend.“
Obwohl Barker glaubt, dass KI-Apps ein „enormes Potenzial“ haben, sagte sie, die Technologie habe noch viel zu tun, um Frauen und Weiblichkeit darzustellen. „Diese sexualisierten Avatare waren so unrealistisch und unerreichbar, dass sie sich im Widerspruch zu so vielen Fortschritten befanden, die wir gemacht haben, insbesondere in Bezug auf Größeninklusivität und Körperpositivität“, fügte sie hinzu. „Diese Technologie ist nicht unfehlbar, weil Menschen dahinter stehen und ihre Voreingenommenheit die Datensätze beeinflussen wird.“
Das ist nur ein Kritikpunkt an Lensa AI. Nachdem die App viral wurde, hat TechCrunch notiert dass, wenn Benutzer Fotos vom Gesicht einer Person mit Photoshopping über den Körper eines nackten Models schickten, die App „wild“ wurde, ihren „Not Safe for Work“ (NSFW)-Filter deaktivierte und mehr Aktfotos lieferte. Das bedeutet, dass die App ohne das Wissen oder die Zustimmung der ursprünglichen Person zum Generieren von Pornos verwendet werden könnte. Künstler haben auch genommen steht gegen die Appund sagt, dass es ihre Originalbilder stiehlt, um seine Porträts zu informieren, ohne für ihre Arbeit zu bezahlen.
Um die Software zu testen, habe ich auch 10 Fotos von mir an die App gesendet, alle vollständig bekleidet, und zwei KI-generierte Akte erhalten. Eine war eine „Fantasie“-Version, die aus dem Abfall herausgeschnitten wurde, mit sichtbaren, aber leicht geschrubbten Brustwarzen. Die andere kam aus der Kategorie „kosmisch“, die aussah, als wäre ich oben ohne oder mit einem nassen T-Shirt.
Das schrieb die Schriftstellerin Olivia Snow in einem Essay für Wired sie reichte ein „eine Mischung aus Kindheitsfotos u [current] selfies“ an Lensa AI und erhielt „ganz nackte Fotos eines jugendlichen und manchmal kindlichen Gesichts, aber eines ausgesprochen erwachsenen Körpers“ zurück.
Katze Willet, eine in Brooklyn ansässige Illustratorin, sagte, sie wollte Lensa AI zunächst ausprobieren, als sie zum ersten Mal sah, wie ein Freund seine Ergebnisse postete. „Aber irgendetwas fühlte sich komisch an. Ich habe mehr Leute gesehen, die Porträts hochgeladen haben, und alle sahen aus wie Comic-Fantasy-Mädchen im Teenageralter.“
Die sexualisierten Bilder machten Willet „eklig“, aber sie versteht auch, dass dies Teil der Anziehungskraft ist. „Es ist die Neugier – selbst wenn Sie wissen, dass es falsch ist, möchten Sie sehen, wie Ihres aussieht“, sagte sie.
Willet wird manchmal beauftragt, Porträts von Menschen zu erstellen, und versteht, dass viele Kunden geglättete, idealisierte Bilder von sich sehen möchten. Manchmal zeichnet sie anhand von Referenzfotos ein naturgetreues Bild, und Kunden sagen, dass ihre Zähne zu groß aussehen oder ihre Nase schmaler sein sollte.
Ein Vertreter von Prisma Labs, dem Lensa AI gehört, schickte dem Guardian eine Liste mit häufig gestellten Fragen, die unter anderem lautete: „Bitte beachten Sie, dass gelegentliche Sexualisierung in allen Geschlechterkategorien beobachtet wird, wenn auch auf unterschiedliche Weise. Das Stable Diffusion-Modell wurde mit ungefilterten Internetinhalten trainiert. Es spiegelt also die Vorurteile wider, die Menschen in die von ihnen produzierten Bilder einfließen lassen. Schöpfer anerkennen die Möglichkeit gesellschaftlicher Vorurteile. Wir auch.”
Laut den FAQs sollen die NSFW-Filter der App „die Voreingenommenheit reduzieren“, aber „Leider haben all diese Bemühungen die KI noch nicht absolut sicher vor voreingenommenen Inhalten und expliziten Bildern gemacht. Daher weisen wir darauf hin, dass das Produkt nicht für die Verwendung durch Minderjährige bestimmt ist, und warnen die Benutzer vor den potenziellen Inhaltsrisiken. Wir verzichten auch darauf, solche Bilder in unserem Werbematerial zu verwenden.“
Lensa AI ist derzeit im Apple App Store als geeignet für Kinder ab vier Jahren aufgeführt. Deepfake- oder KI-Pornos sind nicht nur ein Anliegen der Lensa-Entwickler, sondern auch auf anderen beliebten Plattformen.
PornHub offiziell Verbotene gefälschte Promi-Videos im Jahr 2018, obwohl Berichte (und eine flüchtige PornHub-Suche) zeigen, dass diese Videos immer noch auf der Website gepostet werden. Reddit hat eine ähnliche Politik Verbieten von Benutzern, Deepfakes von jemandem ohne deren Zustimmung zu posten. Jetzt gibt die Technologie von Lensa AI manchmal gefälschte Akte aus, ohne von den Benutzern gefragt zu werden. Während weibliche Nutzer der App darauf warten, dass das Unternehmen auf ihre Bedenken eingeht, werden sie sich weiterhin von ihren KI-generierten Porträts enttäuscht und vielleicht verletzt fühlen.