- 404 Media berichtet bereits seit einigen Monaten über die Verbreitung von KI-Spam-Bildern wie „Shrimp Jesus“.
- Der Höhepunkt ist eine Art „Zombie-Internet“ – falsche Leute, die gefälschte Dinge posten.
- Warum macht Facebook dem also nicht einen Riegel vor? Hier ist meine Meinung.
404 Media hat den Faden des großen Rätsels gezogen: „Was zum Teufel ist mit all diesem KI-Bilder-Spam auf Facebook los?“ In den letzten Monaten haben sie über verschiedene Versionen von KI-Menschen berichtet, die Kettensägenschnitzereien anfertigen, über Kinder, die Fahrräder aus Gemüse vorführen, über alte Menschen, die Geburtstagskuchen ausblasen, über sterbende oder verstümmelte Kinder und über meinen persönlichen Favoriten: Garnelen-Jesus.
Abschließend präsentiert Jason Koebler seine Theorie darüber, was all dieser KI-Engagement-Köder-Spam bedeutet:
Ich denke, wir sollten Facebooks KI-Spam nicht durch die Linse des „toten Internets“ betrachten. Die Plattform ist zu etwas Schlimmerem geworden, als dass Bots mit Bots reden. Es sind Bots, die mit Bots reden, Bots, die mit Bots auf Anweisung von Menschen reden, Menschen, die mit Menschen reden, Menschen, die mit Bots reden, Menschen, die über eine Fälschung streiten, die von einem Bot gemacht wurde, Menschen, die mit niemandem reden, ohne es zu wissen, gekaptete menschliche Accounts Menschen wurden zu Bots, Menschen machten sich Sorgen, dass die anderen Menschen, mit denen sie sprechen, Bots sind, hybride Mensch-/Bot-Konten, das Ende einer gemeinsamen Realität und, im Zentrum all dessen: eines der wertvollsten Unternehmen auf dem Planeten Ermöglicht diese Scheißshow, weil seine menschlichen Führungskräfte und Aktionäre zu viel Geld in die Masseneinführung einer realitätszerstörenden Technologie stecken, um etwas dagegen zu unternehmen.
Lesen Sie mehr von 404 Media: Der KI-Spam von Facebook ist nicht das „tote Internet“, sondern das Zombie-Internet
Meine Meinung: Die seltsame und manchmal beunruhigende Natur von KI-Bildern ist faszinierend, aber hinter dem Phänomen der zunehmenden Verbreitung dieser KI-gestützten Seiten scheint ein klassischer Fall traditioneller Verlobungsköder zu stecken. Die KI-Technik baut die Fangemeinde einer Seite auf – und das kann für den Seiteneigentümer profitabel sein.
Die Frage, die mir bleibt, ist, warum Facebook dies zulässt. Im Bericht von 404 Media heißt es, dass Meta gelegentlich gegen bestimmte Seiten vorgeht, aber nur in ganz bestimmten Fällen – etwa bei einem gehackten Konto und wenn es KI-generierte Bilder von entstellten Kindern entfernt. Diese verstießen wahrscheinlich gegen einige andere bestehende Inhaltsrichtlinien.
Ich habe ein paar Theorien darüber, warum Facebook diese Art von KI-Bilder-Spam (vorerst) zulässt:
-
Es ist ein Wahljahr und Facebook hat mit größeren Problemen bei der Moderation von Inhalten zu kämpfen.
-
Die Bilder selbst sind größtenteils harmlos und die einzelnen Bilder verstoßen nicht gegen Inhaltsrichtlinien. Shrimp Jesus ist absurd und solche Dinge können auf lange Sicht das Facebook-Erlebnis ruinieren, aber im Moment geht es nicht wirklich darum, gegen die Inhaltsregeln zu verstoßen.
-
Auch Verlobungsköder sind nicht unbedingt eine verbotene Taktik. Nichts sagt, dass Sie nicht viele ansprechende Inhalte veröffentlichen können, um Babyboomer (und andere) zum Kommentieren zu verleiten. Es gibt Möglichkeiten, mit bestimmten Spam-Taktiken gegen die Regeln zu verstoßen, aber vielleicht überschreiten diese KI-gestützten Konten nicht die Grenze.
-
Facebook wird beginnen Erkennen und beschriften Sie einige KI-generierte Bilder, aber es gibt keine Regel, die besagt, dass man etwas nicht posten darf, nur weil es KI-generiert ist. (Als ich fragte, wie sie damit umgehen, verwies mich ein Vertreter von Meta auf die Ankündigung dieser Richtlinie.)
-
(Theorie von 404 Media): Meta ist so sehr in KI investiert, dass es uns an den Anblick von KI-Bildern gewöhnen soll, und deshalb sind sie bereit, darauf zu verzichten.