Screenshot/TikTok – @edass.s
- Ein neuer Trend mit KI-Stimmen von Prominenten und Politikern übernimmt TikTok.
- Es gibt zahlreiche virale Videos von KI-generierten Dialogen zwischen Joe Biden, Joe Rogan, Donald Trump und Barack Obama.
- Während die meisten Videos harmlos und lustig sind, wenden sich einige beunruhigenden Themen zu und könnten zur Verbreitung von Desinformationen verwendet werden.
Am Wochenende hat der TikTok-Account @ai.voicesspeech gepostet ein Video mit algorithmisch generierten Stimmen für Joe Biden, Barack Obama, Donald Trump und andere bemerkenswerte Persönlichkeiten, die das soziale Deduktionsspiel „Among Us“ spielen und darüber streiten, wer unter ihnen der böse Betrüger ist.
„Von was zum Teufel redest du? Ich war mit Biden in Medbay“, sagt die Stimme von Trump und verweist auf einen Raum im Spiel. Das Video endet damit, dass Elon Musks KI-Stimme zugibt, dass er der Spieler war, der als Betrüger ausgewählt wurde, und gesteht, dass eine KI-Version von George Bush der andere war.
Clips wie diese sind Teil eines wachsenden Trends auf TikTok, bei dem Entwickler KI verwenden, um Stimmen und Gespräche zwischen berühmten Personen zu imitieren, die sie im wirklichen Leben möglicherweise nie führen werden. Die Idee ist, sie dazu zu bringen, Slang zu verwenden und über Themen zu sprechen, die wir vielleicht nie von ihnen hören werden. Während die meisten dieser Art von Inhalten trollig und harmlos sind, können sie auch schnell in beunruhigendes Gebiet vordringen.
In einem Video, in dem eine falsche Biden-Stimme auf den jüngsten Vorfall antwortet, der dazu geführt hat Die US-Regierung will einen von China betriebenen Ballon abschießenist die KI-Stimme mehrmals mit einer rassistischen Beleidigung zu hören.
“Ich habe mein Geld aufgebraucht und bin immer noch in den Schützengräben”, sagte die Stimme auch einmal. “Fick mit mir, ja.”
Eine große Mehrheit der beliebtesten Clips ist jedoch ziemlich komisch. Das beliebteste Format scheint sich hochkarätige Persönlichkeiten vorzustellen, die Videospiele wie „FIFA“, „Overwatch“ oder „Minecraft“ spielen. Die Videos neigen dazu, statische Fotos der Sprecher über Gameplay-Aufnahmen einzufügen, was den Eindruck erweckt, dass sie alle in einem Sprachanruf sind und das Spiel zusammen spielen.
Und zu hören, wie Obama oder Biden Online-Gaming-Slang verwenden, ist sowohl lustig als auch erschütternd, weil die KI ihre Stimmen so genau simuliert.
„Es ist dein Junge Joe Rizzler“, sagte die KI Biden in einem „Overwatch“-Clip. “Mein Bruder in Christus, versuche einmal, ein paar Schlampen zu bekommen, und steige von den No-Skill-Helden ab.”
Obwohl unklar ist, wie einige dieser TikToker KI verwenden, um berühmte Stimmen zu simulieren, und viele Fans in ihren Kommentarbereichen danach fragen, gibt es dafür eine Technologie. Fortuna hat das kürzlich gemeldet dass das Startup ElevenLabs und seine Sprachsyntheseplattform Werkzeuge anbieten, um realistisch klingende Audiodaten aus menschlichen Stimmen zu erzeugen. Insider hat sich an einige der beliebtesten Meme-Konten gewandt, um sich zu erkundigen.
In ein weiteres Video Das ist enorm viral geworden, ein KI-Obama sagt, er und Biden wollen sich Trumps „Minecraft“ -Welt anschließen. Nach ein paar Minuten, in denen sie sich gegenseitig dissen, sagen alle, dass sie dem Server beigetreten sind. Doch dann stößt Trump Biden sofort in eine tiefe Schlucht und sein Charakter stirbt.
„Siehst du, Donald, deshalb wollten wir letztes Mal nicht mit dir spielen“, sagte AI Biden.
„Ihr seid ein Haufen Babys, heilige Scheiße“, antwortete AI Trump.
Die Leute sind nicht nur belustigt über den vorgetäuschten Austausch, sondern auch verblüfft darüber, wie genau ihre Stimmen imitiert werden. „Die KI wird sogar bei Tonfall und Betonung gut“, sagte ein Top-Kommentar.
Einige Konten, die gefälschten KI-Sprachclips gewidmet sind, haben eine große Fangemeinde und Millionen von Aufrufen für jedes Video angehäuft. Der Schöpfer @joerizzington ist auf über 160.000 Follower gewachsen, seit er am Donnerstag mit dem Posten begann. Der Hashtag #aivoices hat insgesamt über 53 Millionen Aufrufe erzielt.
Abgesehen von der beunruhigenden Rhetorik, zu deren Generierung einige Ersteller dieses Meme und diese Technologie missbrauchen, besteht auch die reale Gefahr, unwissende Zuschauer dazu zu bringen, gefälschte Nachrichten und Desinformationen zu glauben.
Letzte Woche, TikTok abgenommen eine virale Videowerbung, in der ein digital manipulierter Joe Rogan für ein libidosteigerndes Nahrungsergänzungsmittel namens Alpha Grind zu werben schien. Rogan hat nie im wirklichen Leben für das Produkt geworben, und ein Professor, der auch in der Anzeige zu sehen war auf Twitter bestätigt es wurde behandelt.
Andere aktuelle Deepfakes, darunter einer von Präsident Biden, der über Panzer spricht, und ein anderer von Hillary Clinton, die transphobe Texte liest, haben Experten ebenfalls dazu veranlasst, sich Sorgen darüber zu machen, dass die Grenzen zwischen echt und falsch verwischt werden. Diese Higher-Stake-Beispiele veranlassten ElevenLabs, eigene zu veröffentlichen öffentliche Stellungnahmesagen, dass es versuchen wird, “Missbrauchsfälle beim Klonen von Stimmen” zu manipulieren.