ichIm Endspurt zu den US-Zwischenwahlen riskiert der Social-Media-Riese TikTok, ein wichtiger Vektor für Wahlfehlinformationen zu werden, warnen Experten, da die riesige Nutzerbasis der Plattform und ihr Design sie für solche Bedrohungen besonders anfällig machen.
Vorläufig Forschung Der letzte Woche von Digital Watchdog Global Witness und dem Cybersecurity for Democracy-Team der New York University veröffentlichte Bericht deutet darauf hin, dass die Videoplattform in den Wochen vor der Abstimmung große Mengen an Wahlfehlinformationen nicht filtert.
TikTok genehmigte 90 % der von Forschern eingereichten Anzeigen mit Fehlinformationen zu Wahlen, einschließlich Anzeigen mit falschem Wahldatum, falschen Behauptungen über Wahlanforderungen und Rhetorik, die Menschen von der Stimmabgabe abhält.
TikTok ist seit mehreren Jahren verboten politische Werbung auf der Plattform, einschließlich Markeninhalten von Erstellern und bezahlter Werbung, und hat vor den Zwischenwahlen die Monetarisierung automatisch deaktiviert, um die Richtlinie besser durchzusetzen, sagte Blake Chandlee, Global Business President von TikTok, in einem Blogbeitrag vom September. „TikTok ist in erster Linie eine Unterhaltungsplattform“, schrieb er.
Aber die NYU-Studie zeigte, dass TikTok im Experiment „von allen getesteten Plattformen die schlechteste Leistung erbrachte“, sagten die Forscher und genehmigten mehr falsche Werbung als andere Websites wie YouTube und Facebook.
Die Ergebnisse lösen bei Experten Besorgnis aus, die darauf hinweisen, dass solche Beiträge weitreichende Folgen haben könnten – mit 80 Millionen monatlichen Nutzern in den USA und einer großen Anzahl junger Amerikaner, die angeben, dass die Plattform ihre Hauptnachrichtenquelle ist.
Doch die Ergebnisse sind wenig überraschend, sagen diese Experten. Während früherer großer Wahlen in den USA hatte TikTok weitaus weniger Nutzer, aber Fehlinformationen verbreiteten sich bereits weit über die App. TikTok stand vor Herausforderungen bei der Moderation von Fehlinformationen über Wahlen in Kenia und den Krieg in der Ukraine.
Und das Unternehmen, sagen Experten, unternimmt viel zu wenig, um Wahllügen einzudämmen, die sich unter seinen Nutzern verbreiten.
„Dieses Jahr wird viel schlimmer, da wir uns den Midterms nähern“, sagte Olivia Little, eine Forscherin, die den Bericht „Media Matters“ mitverfasst hat. „Es gab einen exponentiellen Anstieg der Benutzer, was nur bedeutet, dass es mehr Fehlinformationen geben wird, an denen TikTok proaktiv arbeiten muss, um sie zu stoppen, sonst riskieren wir eine weitere Krise.“
Eine entscheidende Prüfung
Während Joe Biden selbst warnt, dass die Integrität der amerikanischen Wahlen bedroht ist, hat TikTok eine Reihe von Richtlinien angekündigt, die darauf abzielen, die Verbreitung von Wahlfehlinformationen über die App zu bekämpfen.
Das Unternehmen legte Richtlinien heraus und Sicherheitsmaßnahmen im Zusammenhang mit Wahlinhalten und richtete ein Wahlzentrum ein, das „connect[s] Personen, die sich mit Wahlinhalten beschäftigen“ an zugelassene Nachrichtenquellen in mehr als 45 Sprachen.
„Um unsere Reaktion auf neue Bedrohungen zu stärken, arbeitet TikTok mit unabhängigen Geheimdiensten zusammen und arbeitet regelmäßig mit anderen aus der Branche, zivilgesellschaftlichen Organisationen und anderen Experten zusammen“, sagte Eric Han, Leiter der US-Sicherheit bei TikTok, im August.
Im September kündigte das Unternehmen außerdem neue Richtlinien an, die die Überprüfung von Konten von Regierungen und Politikern vorschreiben, und sagte, es werde Videos verbieten, die auf Spendensammlungen für Kampagnen abzielen. TikTok fügte hinzu, es würde verifizierte politische Konten daran hindern, Geldverdienen-Funktionen zu nutzen, die Influencern in der App zur Verfügung stehen, wie digitale Zahlungen und Geschenke.
Dennoch haben Experten große Bedenken hinsichtlich der Verbreitung von Wahlunwahrheiten in der Video-App.
Diese Befürchtungen werden durch die Struktur von TikTok verschärft, die es schwierig macht, die Verbreitung von Fehlinformationen zu untersuchen und zu quantifizieren. Im Gegensatz zu Twitter, das sein Application Programming Interface (API) veröffentlicht, einer Software, mit der Forscher Daten von Plattformen zur Analyse extrahieren können, oder Meta, das eine eigene interne Suchmaschine namens Crowdtangle anbietet, bietet TikTok keine Tools für externe Audits an.
Unabhängige Recherchen sowie die eigenen Transparenzberichte der Plattform verdeutlichen jedoch die Herausforderungen, denen sie sich in den letzten Jahren bei der Moderation von wahlbezogenen Inhalten gegenübersah.
Laut a. hat TikTok in der zweiten Hälfte des Jahres 2020 350.000 Videos im Zusammenhang mit Fehlinformationen zu Wahlen entfernt Transparenzbericht des Unternehmens und blockierte weltweit 441.000 Videos mit Fehlinformationen aus Benutzer-Feeds.
Gemeinnütziges Internet Mozilla gewarnt im Vorfeld der Wahlen in Kenia im Jahr 2022, dass die Plattform „ihren ersten echten Test nicht bestanden“ habe, um Des- und Fehlinformationen in entscheidenden politischen Momenten einzudämmen. Die gemeinnützige Organisation sagte, sie habe mehr als 130 Videos auf der Plattform gefunden, die wahlbezogene Fehlinformationen, Hassreden und Hetze gegen Gemeinschaften vor der Abstimmung enthielten, die zusammen mehr als 4 Millionen Aufrufe erzielten.
„Anstatt aus den Fehlern etablierterer Plattformen wie Facebook und Twitter zu lernen, tritt TikTok in ihre Fußstapfen“, schrieb Mozilla-Forscherin Odanga Madung damals.
Warum TikTok so anfällig für Fehlinformationen ist
Ein Teil des Grundes, warum TikTok einzigartig anfällig für Fehlinformationen ist, liegt in bestimmten Merkmalen seines Designs und Algorithmus, sagen Experten.
Die For You-Seite oder der allgemeine Video-Feed ist über einen Algorithmus, der selbst von den eigenen Mitarbeitern kaum verstanden wird, stark an die individuellen Vorlieben der Benutzer angepasst. Diese Kombination eignet sich für Fehlinformationsblasen, sagte Little, der Media Matters-Forscher.
„Der hypermaßgeschneiderte Algorithmus von TikTok kann zufällige Konten sehr schnell viral machen, und ich glaube nicht, dass sich das in absehbarer Zeit ändern wird, weil es der Grund ist, warum es zu einer so beliebten Plattform geworden ist“, sagte sie.
Die Leichtigkeit, mit der die Videos der Benutzer remixt, aufgenommen und repostet werden – von denen nur wenige auf Fakten überprüft wurden – ermöglicht es, dass sich Fehlinformationen leicht verbreiten, während sie schwieriger zu entfernen sind.
Die Video-exklusiven Inhalte von TikTok bringen zusätzliche Moderationshürden mit sich, da es für Prozesse der künstlichen Intelligenz möglicherweise schwieriger ist, Videoinhalte im Vergleich zu Text automatisch nach Fehlinformationen zu durchsuchen.
Mehrere neuere Studien haben hervorgehoben, wie diese Funktionen die Verbreitung von Fehlinformationen auf der Plattform verschlimmert haben. Wenn es beispielsweise um TikTok-Inhalte im Zusammenhang mit dem Krieg in der Ukraine geht, hat es die Fähigkeit, Medien ohne Faktenprüfung „neu zu mischen“, es „selbst für erfahrene Journalisten und Forscher schwierig gemacht, die Wahrheit von Gerüchten, Parodien und Erfindungen zu unterscheiden“, sagte ein aktueller Bericht vom Shorenstein Center on Media in Harvard.
Dieser Bericht zitiert andere Designmerkmale in der App, die es zu einem einfachen Weg für Fehlinformationen machen, darunter, dass die meisten Benutzer unter Pseudonymen posten und dass, anders als auf Facebook, wo die Feeds der Benutzer hauptsächlich mit Inhalten von Freunden und Bekannten gefüllt sind, TikToks For Ihre Seite besteht größtenteils aus Inhalten von Fremden.
Einige dieser Probleme treten nicht nur bei TikTok auf, sagte Marc Faddoul, Co-Direktor von Verfolgung ausgesetzteine Organisation für digitale Rechte, die den Algorithmus von TikTok untersucht.
Studien haben gezeigt, dass Algorithmen auf allen Plattformen optimiert sind, um kognitive Verzerrungen für stärker polarisierende Inhalte zu erkennen und auszunutzen, und dass sich jede Plattform darauf verlässt Algorithmen statt eines chronologischen Newsfeeds sind anfälliger für Desinformation. Aber TikTok ist das bisher schnellste Modell eines algorithmischen Feeds, sagte er.
Gleichzeitig, fügte er hinzu, hat sich die Plattform nur langsam mit Problemen auseinandergesetzt, die ihre Kollegen wie Facebook und Twitter seit Jahren plagen.
„In der Vergangenheit hat sich TikTok als Unterhaltungsplattform charakterisiert und geleugnet, politische Inhalte und damit Desinformationen zu hosten, aber wir wissen jetzt, dass das nicht der Fall ist“, sagte er.
Junge Nutzer sind besonders gefährdet
Experten sagen, dass ein zusätzlicher Grund zur Sorge die mangelnde Medienkompetenz der überwiegend jungen Nutzerbasis von TikTok ist. Die überwiegende Mehrheit der jungen Menschen in den USA nutzt TikTok, eine neuere Bericht des Pew Research Center zeigte. Interne Daten von Google aufgedeckt im Juli, dass fast 40 % der Generation Z – die Generation, die zwischen Ende der 1990er und Anfang der 2000er Jahre geboren wurde – weltweit TikTok und Instagram als primäre Suchmaschinen verwenden.
Gen Z erhält nicht nur mit größerer Wahrscheinlichkeit Berichterstattung über soziale Medien, sondern auch weitaus höhere Raten des Misstrauens in traditionelle Institutionen wie die Nachrichtenmedien und die Regierung im Vergleich zu früheren Generationen, was einen perfekten Sturm für die Verbreitung von Fehlinformationen auslöst, sagte Helen Lee Bouygues, Präsidentin der Reboot Foundation, einer Organisation, die sich für Medienkompetenz einsetzt.
„Aufgrund der Natur seines Publikums setzt TikTok viele kleine Kinder Desinformationen aus, die nicht in Medienkompetenz geschult sind, Punkt“, sagte sie. „Sie sind nicht mit den notwendigen Fähigkeiten ausgestattet, um Propaganda oder Desinformation zu erkennen, wenn sie sie online sehen.“
Die Bedrohung wird durch die schiere Menge an Zeit verstärkt, die mit der App verbracht wird, wobei 67 % der US-Teenager die App durchschnittlich nutzen 99 Minuten pro Tag. Von der Reboot Foundation durchgeführte Untersuchungen haben gezeigt, dass je länger ein Benutzer auf einer App verbringt, desto weniger wahrscheinlich ist es, dass er zwischen Fehlinformationen und Tatsachen unterscheidet.
Um seine Richtlinien durchzusetzen, die Fehlinformationen, Belästigung, hasserfülltes Verhalten und gewaltbereiten Extremismus bei Wahlen verbieten, verlässt sich TikTok nach eigenen Angaben auf „eine Kombination aus Menschen und Technologie“ und arbeitet mit Faktenprüfern zusammen, um Inhalte zu moderieren.
Das Unternehmen richtete Fragen an diesen Blogbeitrag bzgl Maßnahmen zur Wahlfehlinformationlehnte es jedoch ab, mitzuteilen, wie viele menschliche Moderatoren es beschäftigt.
Bouygues sagte, das Unternehmen sollte viel mehr tun, um seine Benutzer, insbesondere junge, zu schützen. Ihre Forschung zeigt, dass Medienkompetenz und In-App-Anstöße zur Überprüfung von Fakten einen großen Beitrag zur Bekämpfung von Fehlinformationen leisten könnten. Aber staatliche Maßnahmen sind erforderlich, um solche Änderungen zu erzwingen.
„Wenn die TikToks der Welt Fake News wirklich bekämpfen wollen, könnten sie das tun“, sagte sie. „Aber solange ihr Finanzmodell die Seite im Auge behält, haben sie keinen Anreiz dazu. Hier muss die Politik ins Spiel kommen.“