© Reuters. DATEIFOTO: Auf der World Artificial Intelligence Conference (WAIC) in Shanghai, China, am 6. Juli 2023 ist ein KI-Schild (Künstliche Intelligenz) zu sehen. REUTERS/Aly Song/Dateifoto
Von Zeba Siddiqui
SAN FRANCISCO (Reuters) – Das zu Google gehörende US-amerikanische Cybersicherheitsunternehmen Mandiant sagte am Donnerstag, es habe in den letzten Jahren einen zunehmenden Einsatz künstlicher Intelligenz (KI) zur Durchführung manipulativer Informationskampagnen im Internet beobachtet, obwohl der Einsatz der Technologie bei anderen digitalen Eingriffen bisher begrenzt gewesen sei .
Forscher des in Virginia ansässigen Unternehmens fanden seit 2019 „zahlreiche Fälle“, in denen KI-generierte Inhalte, wie zum Beispiel gefälschte Profilbilder, in politisch motivierten Online-Einflusskampagnen verwendet wurden.
Dazu gehörten Kampagnen von Gruppen, die mit den Regierungen Russlands, Chinas, Irans, Äthiopiens, Indonesiens, Kubas, Argentiniens, Mexikos, Ecuadors und El Salvadors verbündet sind, heißt es in dem Bericht.
Dies geschieht inmitten eines jüngsten Booms generativer KI-Modelle wie ChatGPT, die es deutlich einfacher machen, überzeugende gefälschte Videos, Bilder, Texte und Computercode zu erstellen. Sicherheitsbeamte haben davor gewarnt, dass solche Modelle von Cyberkriminellen genutzt werden.
Laut Mandiant-Forschern würde generative KI es Gruppen mit begrenzten Ressourcen ermöglichen, qualitativ hochwertigere Inhalte für Influencer-Kampagnen in großem Maßstab zu produzieren.
Eine pro-chinesische Informationskampagne namens Dragonbridge beispielsweise habe sich „exponentiell“ über 30 soziale Plattformen und zehn verschiedene Sprachen ausgeweitet, seit sie 2019 erstmals gegen pro-demokratische Demonstranten in Hongkong vorging, sagte Sandra Joyce, Vizepräsidentin von Mandiant Intelligence .
Die Wirkung solcher Kampagnen war jedoch begrenzt. „Unter dem Gesichtspunkt der Effektivität gab es dort nicht viele Siege“, sagte sie. „Sie haben den Verlauf der Bedrohungslandschaft noch nicht wirklich verändert.“
China hat in der Vergangenheit US-Vorwürfe einer Beteiligung an solchen Einflusskampagnen zurückgewiesen.
Mandiant, das öffentliche und private Organisationen bei der Reaktion auf digitale Verstöße unterstützt, sagte, es habe noch nicht gesehen, dass KI bei Bedrohungen aus Russland, Iran, China oder Nordkorea eine Schlüsselrolle spielt. Der Einsatz von KI für digitale Eingriffe dürfte kurzfristig gering bleiben, sagten die Forscher.
„Bisher haben wir keine einzige Reaktion auf einen Vorfall gesehen, bei der KI eine Rolle gespielt hätte“, sagte Joyce. „Sie wurden nicht wirklich in eine praktische Anwendung gebracht, die über das hinausgeht, was mit den normalen Werkzeugen, die wir gesehen haben, möglich wäre.“
Sie fügte jedoch hinzu: „Wir können sehr zuversichtlich sein, dass dies ein Problem sein wird, das mit der Zeit größer wird.“