Auf den ersten Blick sieht der Twitter-Nutzer „Canaelan“ ganz normal aus. Er hat über alles getwittert, von Basketball über Taylor Swift, Tottenham Hotspur Football Club bis hin zum Preis eines KitKat. Das Profil zeigt einen freundlich aussehenden blonden Mann mit Stoppelbart und Brille, der, wie es heißt, in Sheffield lebt. Der Hintergrund: eine zwinkernde Eule.
Canaelan ist in der Tat ein nichtmenschlicher Bot, der mit einer riesigen Armee gefälschter Social-Media-Profile verbunden ist, die von einer Software kontrolliert werden, die entwickelt wurde, um „Propaganda“ zu verbreiten.
Advanced Impact Media Solutions oder Aims, das mehr als 30.000 gefälschte Social-Media-Profile kontrolliert, kann verwendet werden, um Desinformationen in großem Umfang und mit hoher Geschwindigkeit zu verbreiten. Es wird von „Team Jorge“ verkauft, einer Einheit von Desinformationsaktivisten mit Sitz in Israel.
Tal Hanan, der die verdeckte Gruppe unter dem Pseudonym „Jorge“ leitet, sagte verdeckten Reportern, dass sie den Zugang zu ihrer Software an nicht genannte Geheimdienste, politische Parteien und Firmenkunden verkauft hätten. Einer scheint an einen Kunden verkauft worden zu sein, der das britische Information Commissioner’s Office (ICO), eine gesetzliche Überwachungsbehörde, diskreditieren wollte.
Am 18. Oktober 2020 entschied das ICO, dass die Regierung offenlegen sollte, welche Unternehmen Aufträge im Wert von mehreren Millionen Pfund zur Lieferung von PSA erhalten haben nach Eintritt in eine „VIP“-Spur für politisch verbundene Unternehmen. „Das ist politisch motiviert, das ist klar!“ Canaelan beklagte sich zwei Tage später auf Twitter.
Dieser Kommentar war Teil eines Chors der Missbilligung, der von den Bots erzeugt wurde, die entsetzt zu sein schienen. „Information Commissioner versucht alles, um die Regierung zu zerstören“, sagte einer, während ein anderer das Urteil als „Verzweiflungsakt“ bezeichnete.
Alle „Antworten“ unter diesem und anderen Tweets waren sich einig in ihrer Empörung über das ICO, das sie als „Zeitverschwendung“ und „lahm“ bezeichneten. Als die Antworten weitergingen, wurden sie scharfsinniger und erhoben wilde und falsche Anschuldigungen gegen das ICO wegen Bestechung, Korruption und Verbindungen zur extremen Rechten.
Andere schienen einfach verblüfft über das Beharren des ICO auf Transparenz bei der Pandemiebeschaffung der Regierung. „Das ist so typisch für Großbritannien …“, meinte ein Bot, „konzentriert sich auf die falschen Dinge.“
Es ist nicht bekannt, wer Team Jorge beauftragt hat, die Bots auf dem ICO zu entfesseln, oder warum. Hanan antwortete nicht auf detaillierte Anfragen nach Kommentaren, sagte aber: „Um es klar zu sagen, ich bestreite jegliches Fehlverhalten.“
Die ICO-Kampagne scheint relativ kurzlebig gewesen zu sein im Vergleich zu anderen auf der ganzen Welt, die Reporter mit der Aims-Software von Team Jorge verknüpfen konnten, die viel mehr ist als ein Bot-Kontrollprogramm.
Laut einer Demonstration, die Hanan den Undercover-Reportern gab, erhält jeder Avatar eine facettenreiche digitale Hintergrundgeschichte.
Aims ermöglicht die Erstellung von Konten auf Twitter, LinkedIn, Facebook, Telegram, Gmail, Instagram und YouTube. Einige haben sogar Amazon-Konten mit Kreditkarten, Bitcoin-Geldbörsen und Airbnb-Konten.
Hanan sagte den Undercover-Reportern, dass seine Avatare menschliches Verhalten nachahmen und ihre Posts von künstlicher Intelligenz angetrieben würden.
Mithilfe der mit Aims verknüpften Avatare, die Team Jorge in Präsentationen und Videos enthüllte, konnten Reporter des Guardian, Le Monde und Der Spiegel ein viel größeres Netzwerk von 2.000 mit Aims verknüpften Bots auf Facebook und Twitter identifizieren.
Anschließend verfolgten wir ihre Aktivitäten über das Internet und identifizierten ihre Beteiligung an scheinbar hauptsächlich kommerziellen Streitigkeiten in etwa 20 Ländern, darunter das Vereinigte Königreich, die USA, Kanada, Deutschland, die Schweiz, Griechenland, Panama, Senegal, Mexiko, Marokko, Indien und die Vereinigten Staaten Arabische Emirate, Simbabwe, Weißrussland und Ecuador.
Die Analyse ergab eine Vielzahl von Bot-Aktivitäten, wobei die gefälschten Social-Media-Profile von Aims in einen Streit in Kalifornien über Atomkraft verwickelt waren; eine #MeToo-Kontroverse in Kanada; eine Kampagne in Frankreich, an der ein katarischer UN-Beamter beteiligt war; und eine Wahl in Senegal.
Eine der von Aims unterstützten Kampagnen zielte auf eine in Monaco ansässige Superyacht-Firma ab und beschuldigte sie, direkte Verbindungen zu mehreren russischen Oligarchen zu haben, die Sanktionen unterworfen waren.
Wir identifizierten auch reale Ereignisse, die anscheinend inszeniert wurden, um Munition bereitzustellen, die in Social-Media-Kampagnen genutzt werden könnte. In einem Fall ging es um einen vorgetäuschten Protest vor einem Firmensitz in der Regent Street im Zentrum von London.
Drei maskierte Aktivisten mit Baseballkappen, Sonnenbrillen und Masken filmten sich beim Schwenken von Plakaten. Eine ähnliche Flugblattkampagne wurde in der Nähe des Eiffelturms in Paris durchgeführt, bevor sie von Aims-Bots in den sozialen Medien verbreitet wurde. Es ist nicht möglich zu wissen, wer die Kunden in irgendeiner der Kampagnen waren oder was ihr Ziel war.
Was jedoch klar zu sein scheint, ist, dass die Avatare, die mit Propaganda hausieren, dies mit Hilfe gestohlener Fotos von echten Menschen tun.
Das Foto eines strahlenden Mannes in Canaelans Twitter-Biografie, wie der Guardian festgestellt hat, stammt von der echten Twitter-Seite von Tom Van Rooijen, 25, einem freiberuflichen niederländischen Journalisten, der in den Niederlanden lebt.
Van Rooijen, der vom Guardian über den Identitätsdiebstahl informiert wurde, sagte, er fühle sich „ziemlich unwohl“, sein Gesicht neben einem Tweet zu sehen, in dem Ansichten zum Ausdruck gebracht würden, mit denen er nicht einverstanden sei. „Ich gebe viele Workshops für Schulklassen zu Nachrichten, Medien, Journalismus und Fake News. Ich bringe Kindern wöchentlich bei, dass ihre Identität von einem Twitter-Bot gestohlen werden kann“, sagte er. „Ich hätte nie gedacht, dass meine eigene Identität von einem Bot gestohlen wird.“
Van Rooijen gehört wahrscheinlich zu den zehntausenden ahnungslosen Opfern, deren Bilder von Team Jorge geerntet wurden.
Andere Techniken werden ebenfalls verwendet, um den Avataren Glaubwürdigkeit zu verleihen und die von Tech-Plattformen geschaffenen Bot-Erkennungssysteme zu vermeiden. Hanan sagte, seine Bots seien mit SMS-verifizierten Telefonnummern verbunden, und einige hätten sogar Kreditkarten. Aims hat auch verschiedene Gruppen von Avataren mit verschiedenen Nationalitäten und Sprachen, mit Beweisen, dass sie Erzählungen auf Russisch, Spanisch, Französisch und Japanisch vorangetrieben haben.
Diejenigen, die an der ICO-Kampagne beteiligt waren, wurden dazu gebracht, britisch zu erscheinen, indem sie Nachrichtenartikel aus dem Guardian, der BBC, der Daily Mail und dem Telegraph retweeteten. Sie zeigten Interesse an der königlichen Familie, der Leistung von Glastonbury und Liz Truss als Außenminister und veröffentlichten unbeschwerte Witze über britisches Wetter und Essen sowie malerische Fotos aus Wiltshire und Yorkshire.
Diese Hintergründe sorgten für eine gewisse Glaubwürdigkeit, als sie später plötzlich anfingen, ihre Ansichten über den britischen Datenwächter zu äußern.
Twitter lehnte eine Stellungnahme ab. Meta, der Besitzer von Facebook, hat diese Woche mit Aims verknüpfte Bots auf seiner Plattform abgeschaltet, nachdem Reporter eine Probe der gefälschten Konten mit dem Unternehmen geteilt hatten. Am Dienstag verband ein Meta-Sprecher die Aims-Bots mit anderen, die 2019 mit einer anderen, inzwischen aufgelösten israelischen Firma verbunden waren, die von der Plattform verbannt wurde.
„Diese letzte Aktivität ist ein Versuch einiger derselben Personen, zurückzukommen, und wir haben sie wegen Verstoßes gegen unsere Richtlinien entfernt“, sagte der Sprecher. „Die jüngste Aktivität der Gruppe scheint sich darauf konzentriert zu haben, gefälschte Petitionen im Internet zu starten oder erfundene Geschichten in Mainstream-Medien zu verbreiten.“
Trotz all ihrer offensichtlichen Raffinesse verrieten einige Aims-Avatare Werbegeschenke. Einer der Twitter-Bots, die neben Canaelan an britischen Kampagnen beteiligt waren, war „Alexander“, dessen Profilbild einen jungen Mann mit einem geformten Bart in einer weißen Mütze zeigte. Der Hintergrund: orangefarbene Tulpen neben einem munteren Slogan „Be happy“.
Und seine Profilbiografie bestand aus zwei kurzen Sätzen, die ein Interesse an Unwahrheiten andeuteten – und wie man sie überzeugend macht: „Der Unterschied zwischen Fiktion und Realität?“. Fiktion muss Sinn machen.“