TDas gesunde Funktionieren von Demokratien hängt von der Qualität der Informationen ab, die die Debatte in ihnen rahmen. Aber die Digitalisierung, der Aufstieg der sozialen Medien und immer ausgefeiltere Formen der künstlichen Intelligenz bieten neue Möglichkeiten, den öffentlichen Diskurs zu vergiften. Wie eine Guardian-Untersuchung diese Woche zeigt, ist die Ausbeutung dieser leider eine Wachstumsindustrie des 21. Jahrhunderts.
Neben staatlich geförderten Akteuren profitieren immer mehr Privatunternehmen von der Verbreitung von Desinformationen im Auftrag von Auftraggebern aus Politik und Wirtschaft. Undercover-Recherchen haben in Zusammenarbeit mit 30 anderen Medienorganisationen das Innenleben einer solchen Einrichtung aufgedeckt – einer israelischen Black-Ops-Einheit, die den Einsatz automatisierter Desinformation in sozialen Medien mit Hacking und dem Einstreuen erfundener Geschichten in Mainstream-Nachrichtenagenturen kombiniert. Die daraus resultierenden Enthüllungen bieten den bisher tiefsten und detailliertesten Einblick in sich entwickelnde Formen des digitalen Fehlverhaltens.
Die Einheit mit dem Codenamen Team Jorge wird von einem ehemaligen Agenten der israelischen Spezialeinheit geleitet, der jegliches Fehlverhalten bestreitet. Um die Online-Debatte zu manipulieren, entwickelte es eine hochmoderne Software, um Zehntausende gefälschter Avatare zu erstellen. Diese erhielten eine überzeugende digitale Hintergrundgeschichte – sogar einschließlich Airbnb-Konten – und wurden in mehreren Ländern betrieben, wobei sie häufig in Handelsstreitigkeiten eingriffen. In Großbritannien wurde das Büro des Information Commissioner online kritisiert, als es um Klarheit über die Vergabe staatlicher PSA-Aufträge während Covid bemüht war. Unabhängig davon organisierte Team Jorge einen gefälschten Protest in der „realen Welt“ in London, dessen Wirkung dann durch die gefälschten Avatare verstärkt wurde.
Agenten infiltrierten einen Wahlkampf in Nigeria und beschafften sich Dokumente. Und wichtige Akteure bei den kenianischen Wahlen im vergangenen Jahr hatten mit Hacking-Methoden Zugriff auf Gmail und Telegram. Die Desinformationseinheit scheint auch die Mainstream-Medien ins Visier genommen und Geschichten gepflanzt zu haben, die von den Bots schnell aufgegriffen wurden. Ein Mitglied von Team Jorge sagte den verdeckten Ermittlern, dass es für eine gefälschte Geschichte verantwortlich sei, die den von Sanktionen betroffenen russischen Oligarchen zugute käme und die auf Frankreichs meistgesehenem Nachrichtensender ausgestrahlt wurde. Einer seiner Moderatoren wurde nun suspendiert. Von unseren Reportern mit Beweisen für gefälschte Konten kontaktiert, hat Meta, die Besitzerin von Facebook, Bots abgeschaltet, die mit der Software von Team Jorge verbunden sind. Aber ähnlich schlechte Schauspieler operieren frei und unentdeckt auf der ganzen Welt.
Die Professionalisierung einer kommerziellen Desinformationsindustrie, die versucht, von Lügen und Verzerrungen zu profitieren, ist eine der klaren und gegenwärtigen Bedrohungen unserer Zeit. Schnelle Fortschritte in den Bereichen künstliche Intelligenz und virtuelle Realität versprechen enorme soziale Gewinne; aber sie bieten auch neue Spielräume, um die Grenzen zwischen dem Echten und dem Falschen, dem Wahren und dem Falschen zu verwischen. Die Verschwörungstheorien propagiert Online während der Covid-Pandemie und der Aufruhr auf dem Capitol Hill nach falschen Behauptungen, die US-Präsidentschaftswahlen von 2020 seien gestohlen worden, haben gezeigt, wohin das führen kann.
Während die Technologie Fortschritte macht, müssen Regulierungs- und öffentliche Aufsichtssysteme versuchen, Schritt zu halten und sicherzustellen, dass Technologieplattformen mehr Verantwortung für die von ihnen geschaffenen Online-Umgebungen übernehmen. In Zeiten der Polarisierung untergräbt Desinformation die Vermutung von Treu und Glauben, die für eine demokratische Debatte und einen Konsens erforderlich ist. Den Aktivitäten von Organisationen wie Team Jorge muss mehr Aufmerksamkeit geschenkt werden, und es müssen mehr Ressourcen bereitgestellt werden, um sie aus dem Geschäft zu bringen.