Apple entfernt drei Apps aus dem App Store, die in Anzeigen behaupteten, sie könnten KI-Pornos erstellen

Hier ist die Kehrseite der KI, Leute. Erst gestern haben wir Ihnen erzählt, dass der KI-Objektentferner des neuen Pura 70 Ultra von Huawei Kleidung aus Bildern entfernen kann, während die KI dabei hilft, den Eindruck zu erwecken, dass Sie den nackten Körper des Motivs betrachten. Huawei sagte, dass es den Algorithmus in einem zukünftigen Update anpassen werde. Freitag, 404 Medien (über AppleInsider) berichtete, dass Apple drei Apps aus dem App Store entfernt habe, die auf Instagram und auf Erotikseiten damit geworben hätten, dass man damit „jedes Mädchen kostenlos ausziehen“ könne.

Diese Apps wurden vom App Store als „Kunstgeneratoren“ beschrieben, obwohl sie in Wirklichkeit „nicht einvernehmliche Nacktbilder“ erstellten. Solche Bilder zeigen nicht wirklich, wie diese Frauen ohne Kleidung wirklich aussehen, und verlassen sich auf KI, um den scheinbar nackten Körper unter der Kleidung zu schaffen. Dennoch könnten diese Bilder immer noch dazu verwendet werden, Frauen in Verlegenheit zu bringen, zu demütigen und zu erpressen.

404 Media sagte, Apple habe die Apps entfernt, jedoch nicht bevor es dem Technologieriesen Links zu den Apps und ihren Anzeigen gegeben habe. Der Bericht deutete darauf hin, dass Apple die betreffenden Apps offenbar nicht selbst finden konnte. Während einige dieser Apps die KI-Funktion „Ausziehen“ anboten, führten andere einen Gesichtsaustausch bei Erwachsenenbildern durch.

Einige dieser Apps tauchten bereits im Jahr 2022 im App Store auf und schienen sowohl Apple als auch Google unschuldig zu sein, da die Apps im App Store bzw. Play Store gelistet waren. Offenbar ohne Wissen der Technologieunternehmen bewarben die Entwickler dieser Apps ihre Pornofunktionen auf Websites für Erwachsene. Anstatt diese Apps sofort zu entfernen, erlaubten Apple und Google ihnen, in ihren App-Stores zu bleiben, solange sie keine Werbung mehr auf Pornoseiten schalten.

Trotz der Nachfrage von Apple und Google stellte eine der Apps die Werbung auf Websites für Erwachsene erst in diesem Jahr ein, als Google die App aus dem Play Store entfernte.

Da Apple auf der WWDC im Juni einige große KI-Ankündigungen im Zusammenhang mit iOS 18 und Siri machen wird, hat das Unternehmen versucht, ein blitzsauberes Image aufrechtzuerhalten. Dazu gehört auch die Entscheidung von Apple, Artikel von Verlagen zu lizenzieren, um seine generative KI zu trainieren. Google und OpenAI wurden verklagt Die New York Times wegen Urheberrechtsverletzung, nachdem die Artikel der Veröffentlichung ohne Genehmigung für KI-Schulungen verwendet wurden. Es wird interessant sein zu sehen, ob Apple negative Schlagzeilen macht, nachdem es mit der Einstellung dieser Apps gewartet hat.

source site-33