WASHINGTON (Reuters) – Die Biden-Regierung ist bereit, eine neue Front in ihrem Bemühen zu eröffnen, die US-amerikanische KI vor China und Russland zu schützen, mit vorläufigen Plänen, Leitplanken um die fortschrittlichsten KI-Modelle zu errichten, berichtete Reuters am Mittwoch.
Forscher aus der Regierung und dem privaten Sektor befürchten, dass US-Gegner die Modelle, die riesige Text- und Bildmengen auswerten, um Informationen zusammenzufassen und Inhalte zu generieren, nutzen könnten, um aggressive Cyberangriffe durchzuführen oder sogar wirksame biologische Waffen herzustellen.
Hier sind einige Bedrohungen, die von KI ausgehen:
DEEPFAKES UND FEHLINFORMATIONEN
Deepfakes – realistische, aber fabrizierte Videos, die von KI-Algorithmen erstellt wurden, die anhand zahlreicher Online-Aufnahmen trainiert wurden – tauchen in den sozialen Medien auf und verwischen Fakten und Fiktionen in der polarisierten Welt der US-Politik.
Obwohl es solche synthetischen Medien schon seit mehreren Jahren gibt, wurde sie im letzten Jahr durch eine Reihe neuer „generativer KI“-Tools wie Midjourney beschleunigt, die es kostengünstig und einfach machen, überzeugende Deepfakes zu erstellen.
Auf künstlicher Intelligenz basierende Bilderstellungstools von Unternehmen wie OpenAI und Microsoft (NASDAQ:) können zur Erstellung von Fotos verwendet werden, die Wahl- oder wahlbezogene Desinformation fördern könnten, obwohl beide Richtlinien gegen die Erstellung irreführender Inhalte haben, sagten Forscher in einem Bericht im März .
Einige Desinformationskampagnen nutzen einfach die Fähigkeit der KI, echte Nachrichtenartikel nachzuahmen, um falsche Informationen zu verbreiten.
Während große Social-Media-Plattformen wie Facebook (NASDAQ:), Twitter und YouTube Anstrengungen unternommen haben, Deepfakes zu verbieten und zu entfernen, ist ihre Wirksamkeit bei der Überwachung solcher Inhalte unterschiedlich.
So verbreitete beispielsweise letztes Jahr eine von der chinesischen Regierung kontrollierte Nachrichtenseite, die eine generative KI-Plattform nutzte, eine zuvor verbreitete falsche Behauptung, die Vereinigten Staaten würden in Kasachstan ein Labor betreiben, um biologische Waffen für den Einsatz gegen China herzustellen, teilte das Department of Homeland Security (DHS) mit ) sagte in seiner Bewertung der Heimatbedrohung 2024.
Anzeigen entfernen
.
Der Nationale Sicherheitsberater Jake Sullivan sagte am Mittwoch auf einer KI-Veranstaltung in Washington, dass es für das Problem keine einfachen Lösungen gebe, da es die Kapazität der KI mit „der Absicht staatlicher und nichtstaatlicher Akteure, Desinformation in großem Umfang zu nutzen, um zu stören“ kombiniere Demokratien, um Propaganda voranzutreiben, um die Wahrnehmung in der Welt zu formen.“
„Im Moment schlägt die Offensive die Verteidigung deutlich“, sagte er.
BIOWAFFEN
Die amerikanische Geheimdienstgemeinschaft, Denkfabriken und Wissenschaftler sind zunehmend besorgt über die Risiken, die dadurch entstehen, dass ausländische böswillige Akteure Zugang zu fortschrittlichen KI-Funktionen erhalten. Forscher von Gryphon Scientific und Rand Corporation stellten fest, dass fortschrittliche KI-Modelle Informationen liefern können, die bei der Herstellung biologischer Waffen helfen könnten.
Gryphon untersuchte, wie große Sprachmodelle (LLM) – Computerprogramme, die aus riesigen Textmengen schöpfen, um Antworten auf Anfragen zu generieren – von feindlichen Akteuren genutzt werden könnten, um im Bereich der Biowissenschaften Schaden anzurichten, und stellte fest, dass sie „Informationen liefern können, die helfen könnten“. ein böswilliger Akteur bei der Herstellung einer biologischen Waffe, indem er bei jedem Schritt auf diesem Weg nützliche, genaue und detaillierte Informationen bereitstellt.“
Sie fanden beispielsweise heraus, dass ein LLM Postdoktorandenwissen zur Behebung von Problemen bei der Arbeit mit einem pandemiefähigen Virus vermitteln könnte.
Untersuchungen von Rand haben gezeigt, dass LLMs bei der Planung und Durchführung eines biologischen Angriffs hilfreich sein können. Sie fanden heraus, dass ein LLM beispielsweise Aerosol-Verabreichungsmethoden für Botulinumtoxin vorschlagen könnte.
CYBERWAFFEN
Das DHS sagte in seiner Bedrohungsbewertung für das Heimatland 2024, dass Cyber-Akteure wahrscheinlich KI nutzen würden, um „neue Tools zu entwickeln“, um „größere, schnellere, effizientere und ausweichlichere Cyber-Angriffe“ gegen kritische Infrastrukturen wie Pipelines und Eisenbahnen zu ermöglichen.
Anzeigen entfernen
.
China und andere Gegner entwickeln KI-Technologien, die die Cyberabwehr der USA untergraben könnten, sagte das DHS, darunter generative KI-Programme, die Malware-Angriffe unterstützen.
Microsoft sagte in einem Bericht vom Februar, dass es Hackergruppen, die mit der chinesischen und nordkoreanischen Regierung verbunden sind, sowie den russischen Militärgeheimdienst und die iranische Revolutionsgarde verfolgt habe, als diese versuchten, ihre Hackerkampagnen mithilfe großer Sprachmodelle zu perfektionieren.