In der Nacht zum Donnerstag, den 3. September 1998, wurde ein Community-College-Professor mittleren Alters mit Herzinfarkten am Steuer seines Autos auf einer viel befahrenen US-Autobahn ohnmächtig. Das Auto schwebte über die Fahrspuren und in das Gewusel des Gegenverkehrs. Der Aufprall war so heftig, dass der Motor des Wagens des Professors in die Vordersitze schleuderte. Wie durch ein Wunder überlebte er und niemand wurde ernsthaft verletzt. Er erholte sich von einem gebrochenen Knöchel und Handgelenk und verließ das Krankenhaus. Einen Monat später war er wieder da mit Schmerzen im Bein – ein Gerinnsel, das durch den Unfall ausgelöst worden sein könnte oder nicht. Als nächstes schwoll sein Körper mit Flüssigkeit auf das Doppelte an, so dass er aussah wie ein Ballon, den man mit einer Nadel stechen und zerplatzen könnte. Seine Frau und seine kleinen Kinder sahen zu, wie sich sein wundersames Überleben in eine plötzliche Verschlechterung seiner zugrunde liegenden Herzkrankheit verwandelte. Im April 1999 war er tot.
Gut zwei Jahrzehnte später saß sein Sohn Michael Grothaus am Computer und schaute sich ein Video von seinem Vater an, der gesund und im gelben T-Shirt mit einem Smartphone spielte, das viele Jahre nach seinem Tod erfunden wurde. Er genoss es, den sonnenverwöhnten Park um ihn herum aufzunehmen. Dann wandte er sich dem Bildschirm zu und lächelte seinen Sohn gütig hinter seinen unverkennbaren buschigen Augenbrauen hervor.
Grothaus hatte seinen Vater als „Deepfake“ wieder ins Leben zurückgekauft. Es kostet nur ein paar hundert Dollar. Es gibt ganze Gemeinschaften anonymer Deepfaker, die Sie in den besseren Schichten des Internets leicht erreichen können. Normalerweise sind sie darauf spezialisiert, auf Bestellung gefertigte Pornos zu erstellen: Angenommen, Sie möchten ein Video von sich selbst beim Liebesspiel mit Scarlett Johansson oder dem Mädchen von nebenan. Alles, was Sie tun müssen, ist ein Video-Snippet bereitzustellen und den Rest erledigen sie. Für das Video seines Vaters im Park schickte Grothaus Mitte der 90er Jahre über 60 Sekunden VHS-Material. „Brad“ zerlegte es dann in 1.800 Bilder des Gesichts seines Vaters und ließ diese Bilder durch ein Programm namens DeepFaceLab laufen, das sie auf ein Video eines anderen Mannes aufpfropfte.
Die digitale Auferstehung seines Vaters löste bei Grothaus widersprüchliche Gefühle aus. Er sah sich das Video wiederholt an – und freute sich über das Wiedersehen. Dann löschte er es – entsetzt über den Bruch in der Realität und die Folgen, die er für unseren Wahrheits- und Vertrauenssinn mit sich bringt.
Diese gespaltene Reaktion zieht sich durch Grothaus’ Buch über Deepfakes. Einerseits stellen sie die Überwindung des Todes in Aussicht, stellen Utopien vor, erfüllen sexuelles Verlangen. Auf der anderen Seite bringen sie die Angst vor dem totalen Chaos. Sogar ein kurzes gefälschtes Video, in dem beispielsweise der Rücktritt des CEO eines großen Unternehmens gezeigt wird, könnte die Märkte gerade lange genug in Panik versetzen, um es den Menschen zu ermöglichen, die es geschaffen haben, einen Mord zu begehen. Deepfakes von Kandidaten, die in den letzten Momenten einer knappen Wahl etwas Unangenehmes sagen, könnten das Schicksal der Geopolitik ändern.
Aber obwohl solche Szenarien in ihrem destruktiven Potenzial schwindelerregend sind, sind sie größtenteils noch theoretisch. Bei dem tatsächlichen Finanzbetrug, den Grothaus beschreibt, handelt es sich um Betrüger, die a Sprachaufnahme eines CEO seinen Buchhalter anzurufen und ihn dazu zu bringen, ihnen 243,00 $ zu überweisen. Peinlich – aber auch nur wegen eines ziemlich leichtgläubigen Gesprächspartners möglich. Die von ihm beschriebene politische Fallstudie handelt von einer Amateurbearbeitung eines Videos, das den Anschein erweckte, als würde Hollywood-Star Dwayne Johnson Hillary Clinton im Vorfeld der Wahlen 2016 demütigen. Das Video ging in Magaland viral, aber nicht, weil seine Authentizität besonders überzeugend war. Es passte einfach zu den bestehenden Vorurteilen der Leute.
Das ist die Sache mit der „Desinformation“: Sie ist nicht wirklich darauf ausgerichtet, die Meinung der Menschen zu ändern. Es geht darum, ihnen das zu füttern, was sie sowieso konsumieren wollen. Die Qualität der Täuschung ist nicht unbedingt der entscheidende Faktor. Werden Deepfakes das ändern? Wird ihre bloße Existenz jegliche Vertrauensspuren in eine gemeinsame Realität zerstören? Möglicherweise. Aber eines wissen wir: Der Diskurs, der sich um dieses Thema entwickelt hat, ist nicht radikal neu, sondern Teil einer viel älteren Dynamik.
In einem früheren Leben habe ich Fernsehdokumentationen gemacht. Ich habe mich immer gefragt, warum jemand zugestimmt hat, daran teilzunehmen. Die meisten waren normale Leute, die sich nicht für Ruhm interessierten. Langsam dämmerte mir, dass etwas an dem Drehprozess sie verführte. Die Kamera schien Sinn zu versprechen und bot letztlich eine Art Unsterblichkeit. Das heißt, wenn unsere Mitwirkenden die Filme sahen, in denen sie mitwirkten, hassten sie sie. Die Art und Weise, wie wir sie in unsere Handlungsstränge eingearbeitet haben, hat dazu geführt, dass sie sich weniger mächtig und verwundbarer anfühlten. Statt Unsterblichkeit brachten wir das Gegenteil: einen totalen Verlust der Selbstbeherrschung.
Unsere Beziehung zu visuellen Repräsentationen unserer selbst verläuft immer entlang dieser Achse des Narzissmus und der Angst: Sie verspricht sofort eine Niederlage des Todes, aber indem sie diesen Wunsch erweckt, um ihn zu enttäuschen, verstärkt er seine Unvermeidlichkeit erdrückend. Unsere Faszination für Deepfakes erscheint mir als die neueste Iteration dieser emotionalen Achterbahnfahrt, die Grothaus sehr gut einfängt.