Der TikTok-Algorithmus förderte das "krankmachende" antisemitische Mem

Bildrechte
Getty Images

TikTok hat eine Sammlung von Videos gelöscht, bei denen die BBC festgestellt hat, dass sie ein widerliches antisemitisches Lied verwenden, das mehr als 6,5 Millionen Mal angesehen wurde.

Das Lied tauchte am Sonntag in der App auf und enthält den Text: "Wir machen einen Ausflug zu einem Ort namens Auschwitz, es ist Duschzeit."

Das erste Video, in dem das Lied verwendet wurde, zeigte einen riesigen Roboterskorpion mit einem Hakenkreuz, das Menschen angreift und tötet.

Der Algorithmus von TikTok stellte sicher, dass allein das Video mehr als sechs Millionen Mal angesehen wurde.

Andere Videos, die das Lied weiter nutzten, machten die zusätzlichen eine halbe Million Aufrufe aus.

Auschwitz war ein nationalsozialistisches Vernichtungslager in Polen, in dem im Zweiten Weltkrieg mehr als eine Million Menschen starben, viele von ihnen in Gaskammern, nachdem ihnen mitgeteilt worden war, dass sie gemeinsam duschen würden.

Fast 100 Benutzer haben das Lied für ihre eigenen Videos ausgewählt. Einer zeigte eine Figur aus dem Computerspiel Roblox, die wie Hitler aussieht.

Bildbeschreibung

Das erste Video, das das virale Mem auslöste, gewann Hunderttausende von Likes

Ein anderer verwendete einen Clip eines Shooter-Spiels, in dem Menschen durch grüne Gaskanister getötet werden.

Andere Videos verwendeten Bilder aus Filmen oder Fernsehdokumentationen über den Holocaust.

Bildbeschreibung

Ein Video verwendete einen Hitler-ähnlichen Charakter aus dem Videospiel Roblox

Die Videosammlung zog das große Publikum in weniger als drei Tagen an, bevor sie entfernt wurden.

"Es war unglaublich beunruhigend, dieses widerliche TikTok-Video zu sehen, das sich an Kinder richtet und einen Hakenkreuz-tragenden Roboter zeigt, der Juden packt und verbrennt, während sich die Musik über jüdische Männer, Frauen und Kinder lustig macht, die in Auschwitz mit Giftgas getötet werden", sagte Stephen Silverman , Direktor für Ermittlungen und Durchsetzung der Kampagne gegen Antisemitismus.

"TikTok hat eine besondere Verpflichtung, diesen Inhalt schnell anzugehen, da es sich darauf spezialisiert hat, Kindern und jungen Erwachsenen virale Videos zu liefern, wenn sie am eindrucksvollsten sind. Unsere Untersuchungen haben jedoch gezeigt, dass TikTok zu einem der schnellsten Vektoren für die Übertragung von Memes geworden ist, die sich über das lustig machen." Holocaust."

Bildbeschreibung

Einige der Videos verwendeten Spieleclips mit dem Song

TikTok brauchte ungefähr acht Stunden, um alle beleidigenden Videos zu entfernen.

Eine Sprecherin sagte: "Die Sicherheit unserer Benutzer hat für TikTok oberste Priorität, und unsere Community-Richtlinien machen deutlich, was auf unserer Plattform nicht akzeptabel ist.

"Wir tolerieren keine Inhalte, die Hassreden enthalten, und der betreffende Ton sowie alle zugehörigen Videos wurden jetzt entfernt. Wir werden zwar nicht alle Fälle unangemessener Inhalte abfangen, verbessern jedoch kontinuierlich unsere Technologien und Richtlinien, um dies sicherzustellen." TikTok bleibt ein sicherer Ort für positiven kreativen Ausdruck. "Https://www.bbc.co.uk/"

Bildbeschreibung

Einige der Videos verwendeten Clips aus Holocaust-Filmen und Fernsehprogrammen

Einige Experten glauben, dass TikTok mehr tun muss, um den Inhalt von Videos zu überprüfen, bevor sie einem breiteren Publikum zugänglich gemacht werden.

Michael Priem, Geschäftsführer von Modern Impact, sagte: "TikTok enthüllt nicht ihre Algorithmen oder Strategien hinter Inhalten. Es wird jedoch allgemein angenommen, dass es anderen häufig verwendeten Modellen ähnelt, die Daten über unseren Inhaltskonsum und das von Kollegen beeinflusste Netzwerk sammeln.

"Wenn bestimmte Videos an Dynamik gewinnen, werden sie vom Algorithmus auf der gesamten Plattform weiter verbreitet. Daher bitten sich die Benutzer intuitiv gegenseitig," dies viral zu machen ". Die Probleme liegen dann in der Inhaltsfilterung."

Der Benutzer, der das Originalvideo gepostet hat, mit dem das Mem gestartet wurde, scheint ein junger Teenager aus Großbritannien zu sein. Er antwortete nicht auf Anfragen nach Kommentaren und sein Konto war zum Zeitpunkt des Schreibens noch aktiv. Er schrieb in sein Profil, dass er nach dem Posten des Videos 12.000 neue Follower gewonnen habe.

Eine sehr ähnliche Version des Videos wurde 2015 auf YouTube hochgeladen. Es wurde auf einem kleinen Kanal veröffentlicht und hat in den fast fünf Jahren, in denen es live war, 67.000 Aufrufe erhalten. YouTube hat es entfernt, nachdem es von der BBC kontaktiert wurde.

Es ist nicht klar, woher das Lied stammt, aber die Bilder stammen aus einem Computerspiel namens Besiege, mit dem Spieler benutzerdefinierte Belagerungswaffen erstellen können.