@Pioldes
- Meta hat letzte Woche seine neue KI-Sticker-Funktion eingeführt.
- Benutzer haben Möglichkeiten gefunden, mit dem Tool völlig unangemessene Bilder zu erzeugen, und teilen die Ergebnisse online.
- Ein Akademiker kritisierte die KI-Schutzmaßnahmen von Meta in einem Blogeintrag am Sonntag.
Meta hat am 27. September die KI-Sticker und andere Funktionen wie prominente KI-Assistenten eingeführt.
Das sagte das Unternehmen neue Funktion ermöglicht es Benutzern, „Textaufforderungen in Sekundenschnelle in mehrere einzigartige, hochwertige Aufkleber“ in Meta-Apps wie Instagram und Messenger umzuwandeln.
Aber die Aufkleber sorgen online bereits für Spott, nachdem die Leute versucht haben, Wege zu finden, mit der Technologie völlig unangemessene Bilder zu erzeugen.
Der
Ich habe herausgefunden, dass der Facebook-Messenger jetzt über KI-generierte Aufkleber verfügt, und ich glaube nicht, dass irgendjemand der Beteiligten darüber nachgedacht hat pic.twitter.com/co987cRhyu
– Trans-Rechte verteidigen🏳️⚧️ – podesbiens.bsky.social (@Pioldes) 3. Oktober 2023
Seitdem hat der Beitrag über zwei Millionen Aufrufe auf X, der Plattform, die früher als Twitter bekannt war, und schon bald löste er eine Reihe weiterer Beiträge von Benutzern aus, die ihre eigenen Aufkleber online teilten.
Einige Benutzer stellten fest, dass sie problemlos Aufkleber mit beliebten Charakteren erstellen konnten – z Mickey Mouse hält eine Waffe, Elmo lächelt mit einem Messeroder eine schwangere Sonic the Hedgehog.
Ja, die neue Facebook-KI-Sticker-Funktion ist verrückt pic.twitter.com/ieHrULzjJE
– SUNSHINE REVIVAL (@SeanMombo) 4. Oktober 2023
Obwohl bestimmte Wörter durch die Funktion blockiert zu sein scheinen, haben Benutzer Möglichkeiten gefunden, diese Blockaden zu umgehen Tippfehler oder kreative Anregungen.
Die von der KI generierten Aufkleber sind Unterstützt von Llama2, Metas Rivale zu ChatGPT, und wurden für ausgewählte englischsprachige Benutzer eingeführt. Das Unternehmen schrieb in einem Blogbeitrag: „Wir führen unsere neuen KIs langsam ein und haben Sicherheitsmaßnahmen eingebaut.“
Allerdings kritisierte Tama Leaver, Professorin für Internetstudien an der Curtin University, Metas KI-Schutzmaßnahmen in einem separaten Artikel Blogeintrag am Sonntag.
Meta behauptet, dass ihre neuen „KI-Erlebnisse“ „eingebaute Schutzmaßnahmen“ haben, also habe ich getestet, wie sicher die neuen „KI-Sticker“ von Instagram wirklich sind, und wie ich herausgefunden habe, dass diese Tools überhaupt nicht „sicher“ sind: https://t.co/LZONhtX5Bj
[1/4]
— Tama Leaver ➡️ @[email protected] (@tamaleaver) 1. Oktober 2023
„Wenn ein Teil der Schutzmaßnahmen von Meta den Begriff „nackt“ blockiert, ihre KI aber trotzdem nackte Figuren produziert, bleiben eindeutig Fragen darüber offen, wie effektiv diese Schutzmaßnahmen wirklich sind“, schrieb er.
Problematische KI-generierte Inhalte gibt es jedoch nicht nur bei Meta.
Im Dezember wurde die beliebte KI-Avatar-Generator-App Lensa mit Vorwürfen konfrontiert, Benutzer-Avatare zu sexualisieren und zu rassisieren. Benutzer gaben an, dass die App trotz der Regeln gegen Inhalte für Erwachsene manchmal Nacktheit in ihren Bildern erzeugt.
Vertreter von Meta, Disney, Nintendo, Sega und Trudeau reagierten nicht sofort auf Anfragen von Insider nach Kommentaren, die außerhalb der regulären Geschäftszeiten gesendet wurden.