- KI-generierte Bilder überlasten Facebook und es ist traurig zu sehen, wie sich echte Menschen engagieren.
- Letzte Woche haben Forscher über die Seiten geschrieben, auf denen dieser Müll gepostet wird. Sie stellten weitverbreitetes Fehlverhalten fest.
- Vergib uns, Garnelen-Jesus.
Mein Pfarrer hat mir nie erzählt, welche Arten von Jesus ich heutzutage auf Facebook sehe: einen Erwachsenen aus Garnelen; ein Baby, umgeben von dreiarmigen Feen und Kerzen (schreckliche Erziehung, Joseph); ein Kruzifix, das von knienden Flugbegleitern um einen Pool herum verehrt wird.
Diese Bilder von Jesus sind die Art von durch künstliche Intelligenz erzeugten Bildern, die Facebook überwältigen und die Social-Media-Seite noch deprimierender machen.
Ich gehöre zu den wenigen Millennials, die ich kenne, die Facebook regelmäßig nutzen, vor allem, um in Expat-Gruppen Freunde zu finden und über Marketplace – den einzig guten Teil der Website – eine neue Wohnung einzurichten. Ich lache zwar gerne über Leute wie Shrimp Jesus, bin aber beunruhigt über das Engagement, das ich in diesen Beiträgen sehe, und darüber, was es für die Zukunft der sozialen Medien bedeutet.
Vor Jahren legte Facebook den Grundstein für den heutigen KI-Müll, indem es Inhalte aus legitimen Quellen wie Nachrichtenorganisationen zugunsten von Beiträgen von Familie und Freunden herabsetzte. „Wir fühlen uns verpflichtet, sicherzustellen, dass die Nutzung unserer Dienste nicht nur Spaß macht, sondern auch gut für das Wohlbefinden der Menschen ist“, sagte CEO Mark Zuckerberg schrieb als er die Änderung im Jahr 2018 ankündigte.
Aber außer ein paar älteren Verwandten und College-Bekannten postet niemand, den ich kenne, viel. Stattdessen ist mein Feed eine Mischung aus Gruppenbeiträgen, Anzeigen und seltsamen KI-Bildern – in meinem Fall hauptsächlich von gefälschten Häusern und Resorts, vielleicht weil ich einigen Reisegruppen angehöre.
Der Kommentarbereich davon In Bildern wird es dunkel.
Eine Mischung aus Betrügern, die Ihnen Kryptowährungen verkaufen wollen, und echten Menschen, die diese Fotos kommentieren. Ersteres erwarte ich in jedem Online-Forum, aber Letzteres ist ein trauriger Ausdruck mangelnder Medienkompetenz – und Forscher beginnen es zu bemerken.
Letzte Woche ein Duo von der Stanford University und der Georgetown University hat einen Aufsatz veröffentlicht – noch nicht begutachtet – über KI-Bilder auf Facebook, nachdem bis Anfang März 120 Facebook-Seiten untersucht wurden. Sie schrieben, dass KI-generierte Bilder erscheinen, weil der Facebook-Algorithmus glaubt, dass sie zu mehr Engagement führen würden – und einige der von ihnen verfolgten Beiträge gingen viral.
Es überrascht nicht, dass die Forscher herausfanden, dass einige Leute, die sich mit diesen Inhalten beschäftigten, nicht zu bemerken schienen, dass sie KI-generiert waren, und dass die Gruppen hinter diesen Seiten nicht viel Gutes im Schilde führten. Die Forscher schrieben, dass einige der Seitenbetreiber „eindeutig manipulative Verhaltensweisen“ an den Tag legten, etwa das Stehlen von Seiten und das Hinzufügen gefälschter Follower, um ihren Status zu steigern.
Das „Danke Jesus für alles“ Seite, von dem ich die Bilder in dieser Geschichte bezogen habe, sieht genauso aus wie das, was die Forscher gefunden haben. Die Seite, die ursprünglich der Präsentation lokaler Musiker gewidmet war, wurde im Januar 2023 gehackt, wie mir der ursprüngliche Besitzer erzählte.
Nach der Übernahme begann die Seite damit, die Art von religiösen Boomer-Bildern erneut zu veröffentlichen – denken Sie an Gebete in Comic Sans-Schrift statt schlechter Cliparts –, die seit langem auf Facebook kursieren. Diese Bilder stammen von einer anderen Seite namens VFit Athlete, einem Fitnessstudio mit Sitz in Indiana, dessen Besitzer mir sagte, dass es ebenfalls gehackt wurde, und das sich inzwischen ebenfalls auf AI Jesus konzentriert hat. Zusammen haben die Seiten 130.000 Follower – ein Tropfen auf den heißen Stein von Metas 3 Milliarden monatlich aktiven Nutzern.
Der wahre Zweck dieser Seiten bleibt unklar: Über den offensichtlichen Kommentarbetrug hinaus könnten sie die Seitenaufrufe steigern, um sie später für andere Zwecke zu nutzen, beispielsweise für die Verbreitung von Fehlinformationen — Ein Zyklus, den wir auf Facebook mit anderen Seiten gesehen haben, die älter waren als generative KI.
Meta reagierte nicht auf meine Anfragen nach Kommentaren, auch nicht zu den gehackten Seiten.
Facebook weiß, dass generative KI ein Problem ist. Andere Medien berichteten lange vor der Studie der letzten Woche darüber; 404 Media hat darüber geschrieben Im Dezember. Metas Präsident für globale Angelegenheiten sagte im Februar, dass das Unternehmen dies tue Arbeit an generativen KI-Labels Es wird später in diesem Jahr eingeführt. Bemerkenswert ist, dass dies in einem Wahljahr geschieht, das bereits von generativen KI-Problemen geprägt ist, online und offline.
Aber ich will es nicht sehen beschriftet generative KI-Inhalte in meinem Feed – ich möchte überhaupt keine generativen KI-Bilder. Ein alternatives Universum finden Sie auf Instagram von Meta: Dort sehe ich Bilder und Videos von meinen wirklichen Lieben, Sportlern und Marken, die ich mag, durchsetzt mit Anzeigen, die manchmal so zielgerichtet sind, dass ich beiße.
Ich habe das Kreuzfahrtschiff Jesus noch nicht auf Instagram gesehen, ein wahrer Segen.
Sehen Sie seltsame Dinge in Ihren Social-Media-Feeds? Schicken Sie mir eine E-Mail an mmorris at insider.com.