WAls Facebook Anfang dieses Monats Dutzende von Gruppen entfernte, die sich Kanadas regierungsfeindlichen „Freedom Convoy“-Protesten widmeten, geschah dies nicht wegen Extremismus oder Verschwörungen, die innerhalb der Proteste weit verbreitet waren. Das lag daran, dass die Gruppen von Betrügern geführt wurden.
Netzwerke von Spammern und Profiteuren, von denen einige bis nach Vietnam oder Rumänien angesiedelt waren, hatten die Gruppen eingerichtet, die gefälschte oder gehackte Facebook-Konten in einem Versuch, mit den politischen Turbulenzen Geld zu verdienen.
Dass ausländische Netzwerke von Social-Media-Betrügern ein möglicherweise spaltendes politisches Thema aufgegriffen hatten fühle mich wie ein Rückfall. Vor Ermittlungen zu den Aktivitäten russischer Trollfabriken während der US-Präsidentschaftswahlen und Kulturkriegskonflikten um die Moderation von Inhalten war eine der größten Herausforderungen für Social-Media-Plattformen Profiteure, die gefälschte Nachrichtenartikel und Spam für leichtes Geld verbreiteten. Hunderte von Websites, die US-Nachrichtenagenturen nachahmen, verbreiteten ihre Inhalte in sozialen Medien und erzielten Werbeeinnahmen aus dem von ihnen generierten Verkehr.
Plattformen wie Facebook gehen seit 2016 hart gegen solche „nicht authentischen Aktivitäten“ vor, aber die globale Industrie der Fehlinformationen bleibt bestehen. In den letzten Jahren haben diese gewinnorientierten Desinformationsnetzwerke die Popularität von Verschwörungsbewegungen und rechtsextremen Gruppen im Internet genutzt und Inhalte erstellt, die sich an Impfgegner und QAnon-Anhänger richten.
„Es kann für Menschen in anderen Teilen der Welt eine äußerst lukrative Industrie sein, das politische Klima in den USA und Kanada sehr genau zu beobachten und dann von Moment-zu-Moment-Trends zu profitieren“, Emerson Brooking, Senior Fellow am Digital Forensic Research Lab von der Atlantic Council, sagte dem Guardian. „Wenn Sie auf Geld aus sind und den Erfolg nicht daran messen, Zwietracht in einem Land zu säen, sondern an der Maximierung der Werbeeinnahmen, haben diese Operationen immer noch viele Vorteile.“
Desinformation für Profit
Es ist schwer, das genaue Ausmaß der gewinnorientierten Fehlinformationsindustrie zu kennen, sagen Forscher, da sie als Teil einer Schattenwirtschaft fungiert und in verschiedenen Formen auftritt. Zusätzlich zu Inhaltsmühlen und Werbeeinnahmeschemata gibt es auch Privatfirmen auf der ganzen Welt, die angeheuert werden, um falsches Engagement zu schaffen oder politische Propaganda zu verbreiten. Allein im Jahr 2021 sagte Facebook, es habe 52 koordinierte Einflussnetzwerke in 32 Ländern entfernt, die versuchten, die öffentliche Debatte für strategische Ziele zu lenken oder zu korrumpieren, so a Firmenbericht auf unauthentisches Verhalten.
Darüber hinaus können kleine Netzwerke einen übergroßen Einfluss haben, wenn sie Online-Gruppen effektiv nutzen, um sich massenhaft zu organisieren und Spenden zu sammeln. Im Fall der Freedom Convoy-Konten schienen viele der größten beteiligten Facebook-Gruppen von gefälschten Konten oder Content-Mühlen aus zahlreichen Ländern betrieben zu werden. Facebook hat die Gruppen in diesem Monat beendet, aber nicht bevor die Unterstützer des Konvois über 7 Millionen Dollar an Crowdfunding gesammelt und Massenaufmerksamkeit im Mainstream erzeugt haben. (GoFundMe hat die Kampagne später deaktiviert).
Eine digitale Marketingfirma aus Bangladesch betrieb zwei der größten Anti-Impfstoff-Trucker-Gruppen von Facebook, laut Grid News, die zusammen über 170.000 Mitglieder hatte, bevor die Plattform sie entfernte. Das gehackte Facebook-Konto einer Frau aus Missouri ein Netzwerk aufbauen von mehreren anderen Pro-Demonstrations-Gruppen, die zusammen innerhalb von Wochen mehr als 340.000 Mitglieder gewinnen. Andere Gruppen, die amerikanische Ableger der kanadischen Proteste förderten, stammten von Facebook-Konten und -Netzwerken mit Sitz in Vietnam, Rumänien und anderen Nationen, Facebook-Beamten sagte NBC News.
Neuere Forschungen haben jedoch Aufschluss darüber gegeben, wie einige dieser gewinnorientierten Fehlinformationsoperationen funktionieren. Eine Reihe von Fallstudien des Institute For Strategic Dialogue, einer in London ansässigen Denkfabrik, detailliert was es braucht, um einen geldverdienenden Online-Nachrichtenbetrug zu betreiben. Ein Beispiel war eine zusammengeschusterte Website namens The US Military News.
Die Schlagzeilen der US Military News ähneln denen, die Sie in einer Reihe von rechtsextremen Medien finden könnten, mit Titeln wie „Trump ruiniert Pence in einer großartigen Erklärung“ und Artikeln, in denen die kanadischen Trucker-Proteste gelobt werden. Ein Geschäft auf der Website vermarktet Trump-bezogene Waren, darunter kostenlose amerikanische Flaggen und Trump 2024 „Revenge Tour“-Gedenkmünzen. Überall auf der Titelseite und an jedem Artikel hängen immer wieder Spendenaufrufe.
Aber trotz des Namens und des durchgängigen amerikanischen Brandings hat die Website keine Verbindung zum US-Militär oder zu den Vereinigten Staaten. Seine Domain ist in Vietnam registriert, und es ist unklar, ob es irgendwelche Autoren beschäftigt oder ob die beworbenen Produkte überhaupt existieren. Die Artikel selbst bestehen ausschließlich aus Stock-Footage-Videos, wobei eine automatisierte Sprachausgabe plagiierte Inhalte vorliest.
Eine Reihe der Artikel und Schlagzeilen, die auf mit dem Netzwerk verlinkten Websites veröffentlicht werden, drehen sich um unverblümte QAnon-Verschwörungsinhalte, die Unwahrheiten über Militärtribunale und zum Tode verurteilte Biden-Beamte enthalten. Auf der Titelseite einer Website sind prominent eine Reihe von Inhalten gegen Impfungen und Pro-Trump-Verschwörungen zu sehen, während gleichzeitig ein Amazon-Affiliate-Link zu Trumps Art Of The Deal-Buch beworben wird.
The Guardian kontaktierte die E-Mail-Adresse, unter der The US Military News registriert ist, erhielt jedoch keine Antwort. Die US Military News sind laut ISD nur eine von mehreren Seiten, die mit demselben in Vietnam ansässigen Netzwerk verknüpft zu sein scheinen.
In einem anderen ISD Berichte, fand die Forscherin Elise Thomas ein Netzwerk aus Dutzenden von Facebook-Gruppen und -Seiten – die auch mit einer kleinen Gruppe von Menschen in Vietnam verbunden zu sein scheinen – die plagiierte Pro-Trump-Inhalte teilten, die sich an konservative Social-Media-Nutzer richteten. Unter Verwendung von Artikeln von rechtsextremen Verschwörungsseiten wie The Gateway Pundit erstellte das Netzwerk Facebook-Gruppen mit Namen wie „Conservative Voices“ und baute eine große Anzahl von Followern auf – manchmal Zehntausende von Benutzern.
Obwohl gewinnorientierte Fehlinformationsnetzwerke ihr Publikum oft durch das Schalten von Anzeigen auf ihren Websites monetarisieren, schien das Netzwerk, das ISD herausfand, seine Facebook-Gruppenmitglieder aufzubauen, um die Gruppen möglicherweise selbst weiterzuverkaufen.
„Dies war die ursprüngliche Bedrohung, über die sich Plattformen Sorgen machten“, sagte Brooking. „Das war keine Desinformation, man würde es als eine Art Werbebetrug oder Werbefarmen bezeichnen.“
Die ursprünglichen „Fake-News“
In vielen Fällen, einschließlich der Fallstudien von ISD, werden mit nicht authentischen Facebook-Gruppen und Verschwörungsseiten keine großen Geldbeträge verdient. Aber für viele der Betreiber, die in Ländern mit niedrigem Pro-Kopf-Einkommen im Vergleich zu den USA ansässig sind, bedeutet das Verdienen von ein paar hundert Dollar im Monat durch die Verbreitung konspirativer Inhalte einen erheblichen Gewinn. Eine der lukrativeren Websites mit Verbindungen zu Vietnam, die ISD analysierte, brachte allein durch Werbung jeden Monat etwa 1800 Dollar ein – etwa das Zehnfache des monatlichen Pro-Kopf-Einkommens im Land.
Diese Betrügereien haben ein starkes Echo auf den Anstieg kommerzieller Fehlinformationen im Internet im Jahr 2016. Viele der Personen hinter Posts mit falschen Behauptungen wie „Papst Franziskus unterstützt Donald Trump“ kamen auch von außerhalb der USA, oft aus a einzige Kleinstadt in Nordmazedonien namens Veles, der für über 140 nachgeahmte Nachrichten-Websites verantwortlich war.
Diese originellen „Fake-News“-Websites nutzten anzügliche Schlagzeilen und Social-Media-Algorithmen, die Beiträge unabhängig von ihrem Inhalt mit hohem Engagement bewarben, was die Ersteller dazu veranlasste, umstrittene politische Themen wie Rassen-, Religions- und Kulturkriegsherde auszuwählen, um die meiste Aufmerksamkeit auf ihre Websites zu lenken und Social-Media-Konten. Obwohl sich die Strategien zur Umgehung von Inhaltsmoderatoren weiterentwickelt haben, scheint dieses Spielbuch der Monetarisierung von Verschwörungen und Fehlinformationen weitgehend gleich geblieben zu sein.
„So sah die Bedrohung durch Fehlinformationen aus, bevor wir überhaupt über staatliche Maßnahmen sprachen“, sagte Brooking. „Es ist interessant, dass diese Art von älterer Bedrohung jetzt wieder im Mittelpunkt steht.“