Tribune News Service/Getty Images
- Ein Sportdirektor einer High School wurde verhaftet, nachdem im Internet ein Deepfake des Schulleiters verbreitet wurde.
- Die Deepfake-Aufnahme ahmte Eric Eiswert nach, der rassistische und antisemitische Äußerungen machte.
- Lokale Behörden haben Gesetzesänderungen gefordert, um den Missbrauch von KI-Technologie zu verhindern.
Dazhon Darien, Sportdirektor einer High School in Maryland, wurde verhaftet und angeklagt Stalking und Diebstahl nach einer KI Eine gefälschte Audioaufnahme des Schulleiters, die rassistische Bemerkungen enthielt, wurde online geteilt.
Die Aufnahme, die im Januar in den sozialen Medien veröffentlicht wurde, verbreitete sich weit und die Menschen wurden zu der Annahme verleitet, es handele sich um die Stimme von Eric Eiswert. Das berichtete die örtliche Polizei.
Eiswert ist Direktor der Pikesville High School in einem Vorort von Baltimore.
Das Deepfake-Audio enthielt eine Tirade gegen schwarze Studenten, die dazu führte, dass Eiswert mit Drohungen überschwemmt wurde Die New York Times.
„Es wird vermutet, dass Herr Darien, der Sportdirektor an der Pikesville High School war, die Aufnahme gemacht hat, um sich gegen Herrn Eiswert zu rächen, der zu diesem Zeitpunkt eine Untersuchung über den möglichen Missbrauch von Schulgeldern durchführte“, sagte die Polizei in einer online veröffentlichten Erklärung .
Darien wird wegen Stalking, Diebstahl, Störung des Schulbetriebs und Vergeltung gegen einen Zeugen angeklagt.
Er wurde gegen Kaution freigelassen 5.000 US-Dollar nach einem Gerichtstermin am Donnerstag.
KI-Deepfakes sind ein wachsendes Problem
Mithilfe einer forensischen Analyse stellte die Polizei fest, dass die Aufzeichnung mithilfe von KI erstellt wurde.
„Basierend auf einer umfangreichen Untersuchung haben die Ermittler jetzt schlüssige Beweise dafür, dass die Aufzeichnung nicht authentisch war. Im Rahmen ihrer Ermittlungen haben die Ermittler einen mit dem FBI beauftragten forensischen Analysten beauftragt, die Aufzeichnung zu analysieren“, sagte die Polizei.
Dies teilten die Behörden in einer Pressekonferenz mit Man geht davon aus, dass der Fall einer der ersten seiner Art im Land ist. Und sie fordern Gesetzesänderungen, um sie an die neue Technologie anzupassen.
„Wir werden wahrscheinlich die Gesetze sowohl auf Landes- als auch auf Bundesebene prüfen müssen, um sicherzustellen, dass diese neue Technologie und die, die noch kommen werden, nicht auf eine Weise eingesetzt werden können, die Einzelpersonen und unseren Gemeinden schadet“, sagte Johnny Olszewski, Geschäftsführer des Baltimore County.
Deepfakes werden immer häufiger eingesetzt, da Fortschritte in der KI Unternehmen und Einzelpersonen neue Möglichkeiten eröffnen, böswilligen Akteuren ausgesetzt zu werden.
Es bestehen Bedenken hinsichtlich der neuen Möglichkeiten, diese Deepfakes am Arbeitsplatz zu manipulieren. Ein Unternehmen in Hongkong wurde um 25 Millionen US-Dollar betrogen, nachdem Betrüger einen Mitarbeiter mit Deepfakes seiner leitenden Kollegen ins Visier genommen hatten. Das FBI hat außerdem gewarnt, dass immer mehr Menschen die Technologie nutzen, um sich in Vorstellungsgesprächen als jemand anderes auszugeben.
Es gibt auch Befürchtungen, dass KI-Deepfakes freie und faire Wahlen gefährden könnten, da es für Menschen einfacher wird, Fehlinformationen zu verbreiten.
Anfang des Jahres erhielten einige Wähler in New Hampshire Fake-Anrufe von Joe Biden, der sie für Joe Biden hielt und ihnen sagte, sie sollten bei den Präsidentschaftsvorwahlen nicht wählen. Das Weiße Haus möchte Videos von Joe Biden „kryptografisch verifizieren“, damit Zuschauer echte Videos nicht mit Deepfakes verwechseln.