TikTok/Insider
- TikTok schaltete eine Anzeige mit einem Deepfake von MrBeast, der iPhone 15 Pros für 2 US-Dollar anbot.
- Da die KI-Technologie immer zugänglicher wird, wird sie eine Reihe neuer Herausforderungen für werbebasierte Plattformen mit sich bringen.
- „Sind Social-Media-Plattformen bereit, mit der Zunahme von KI-Deepfakes umzugehen?“ fragte MrBeast in einem Beitrag.
TikTok schaltete eine Werbung mit einer KI-generierten Deepfake-Version von MrBeast, in der behauptet wurde, im Rahmen einer Verlosung von 10.000 Handys iPhone 15s für 2 US-Dollar zu verschenken.
Das gesponserte Video, das Insider am Montag in der App ansah, sah offiziell aus, da es das Logo von MrBeast und ein blaues Häkchen neben seinem Namen enthielt. Doch für internetaffine Nutzer waren die Fingerabdrücke der KI-Manipulation deutlich zu erkennen. Die Stimme des YouTubers klang verzerrt und seine Mundbewegungen wirkten unheimlich.
„Nur Boomer würden auf diesen Scheiß hereinfallen“, kommentierte ein Nutzer die Anzeige.
„Wow! TikTok, du bist so gut darin, Anzeigen zu moderieren“, fügte ein anderer hinzu.
MrBeast, der mit bürgerlichem Namen Jimmy Donaldson heißt, bestätigte, dass die Anzeige nicht echt sei Social-Media-Beitrag.
„Viele Leute bekommen diese Deepfake-Betrugswerbung von mir … sind Social-Media-Plattformen bereit, mit der Zunahme von KI-Deepfakes umzugehen? Das ist ein ernstes Problem“, schrieb er.
Als er um einen Kommentar gebeten wurde, sagte ein TikTok-Sprecher, das Unternehmen habe die Anzeige innerhalb weniger Stunden nach ihrer Veröffentlichung entfernt und das damit verbundene Konto wegen Richtlinienverstößen gesperrt.
Auf seiner Seite mit den Werberichtlinien erklärte TikTok, es verbiete „synthetische Medien, die das Abbild (visuell oder akustisch) einer realen Person enthalten“. Das Unternehmen blockiert außerdem Anzeigen, die Markenrechtsverletzungen und anderen Missbrauch geistigen Eigentums beinhalten. „Werbetreibende sind dafür verantwortlich, sicherzustellen, dass alle synthetischen Medien, die eine Persönlichkeit des öffentlichen Lebens enthalten, die Zustimmung der Person des öffentlichen Lebens haben, auf diese Weise in einer Werbung verwendet zu werden“, schrieb das Unternehmen.
Ein Vertreter von MrBeast lehnte eine Stellungnahme ab.
Unautorisierte KI-generierte Inhalte mit Prominenten sind in der Welt der Plattformwerbung immer häufiger anzutreffen. Vor zwei Tagen, Tom Hanks habe eine Warnung gepostet an Fans über ein Werbevideo, in dem ein Zahntarif angepriesen wird, in dem eine nicht genehmigte KI-Version seiner selbst zu sehen ist. Elon Musk und Leo DiCaprio sind sich begegnet ähnliche Herausforderungen.
Das Problem wird sich wahrscheinlich verschlimmern, wenn sich die KI-Technologie verbessert und breiter verfügbar wird.
„Realismus, Effizienz und Zugänglichkeit bzw. Demokratisierung bedeuten, dass dies nun im Wesentlichen in den Händen gewöhnlicher Menschen liegt“, sagte Henry Ajder, ein akademischer Forscher und Experte für generative KI und Deepfakes, gegenüber Insider. „Es ist wirklich ein sehr tiefgreifender Moment und das ist wirklich die Spitze des Eisbergs.“
Nicht alle KI-generierten Werbeinhalte mit Prominenten sind von Natur aus schlecht, wie eine kürzlich zwischen ihnen koordinierte Kampagne ergab Lionel Messi und Lay’s demonstriert. Der Schlüssel ist Transparenz.
„Wenn jemand eine KI-generierte Werbung ohne Offenlegung veröffentlicht, auch wenn sie völlig harmlos ist, sollte dies meiner Meinung nach dennoch gekennzeichnet und für ein Publikum so positioniert werden, dass es es verstehen kann“, sagte Ajder.
TikTok ist sich bewusst, dass KI-generierte Inhalte auf seiner Plattform allgegenwärtig geworden sind, da Deepfake-Versionen von Tom Cruise, Präsident Biden und dem ehemaligen Präsidenten Trump viral gegangen sind und KI-generierte Songs mit Bezug zu Künstlern wie Drake alltäglich geworden sind.
Letzten Monat veröffentlichte das Unternehmen ein neues Tool, das Entwicklern dabei helfen soll, KI-Inhalte zu kennzeichnen, und kündigte an, dass es damit beginnen werde, Möglichkeiten zur automatischen Kennzeichnung von KI-generierten Inhalten zu testen.
„KI ermöglicht unglaubliche kreative Möglichkeiten, kann die Zuschauer jedoch potenziell verwirren oder irreführen, wenn sie nicht wissen, dass Inhalte mit KI generiert oder bearbeitet wurden“, so das Unternehmen schrieb.