Die Menschen können nicht mehr den Unterschied zwischen einem echten menschlichen Gesicht und einer Fälschung erkennen, die von erstellt wurde KIeine neue Studie sagt. Das Konzept der Schaffung gefälschter Identitäten ist nicht neu, wurde jedoch mit dem Aufkommen digitaler „Deep Fakes“ auf neue Extreme getrieben. KI und maschinelles Lernen werden verwendet, um digitale Menschen zu generieren, und sie scheinen von Stunde zu Stunde besser zu werden.
KI-Programme, die vorgeben, menschlich zu sein, haben das Potenzial, viele Rollen zu übernehmen, die derzeit von menschlichen Arbeitern eingenommen werden, wobei sie als perfekte und unermüdliche Arbeiter für digitale Bankdienste, Kundendienste, Callcenter, Vertrieb und Support angesehen werden. Von KI erstellte Profil-Avatare werden auch häufig zum Erstellen gefälschter Profile verwendet und wurden mit Betrug und Cybersicherheitsbedrohungen in Verbindung gebracht.
Forscher der Universität von Lancaster kam zu dem Schluss, dass Menschen nicht mehr zwischen einem von künstlicher Intelligenz generierten Gesicht und einem echten menschlichen Gesicht unterscheiden können. Das Team sagt, dass dies ein dringendes Risiko darstellt, das durch die Schaffung von Sicherheitsvorkehrungen zum Schutz der Öffentlichkeit angegangen werden muss. Die Forscher fügten hinzu, dass KI-synthetisierter Text, Audio, Bild und Video bereits für verschiedene und schändliche Zwecke verwendet wurden, einschließlich Betrug und Propaganda.
Die Forscher erklärten, dass die künstlichen Gesichter mit StyleGAN2 erstellt wurden, einem generativen gegnerischen Netzwerk, das ursprünglich 2018 von Nvidia-Forschern erstellt wurde. Das Experiment umfasste mehr als 500 Teilnehmer, die gebeten wurden, synthetisierte Gesichter von echten zu unterscheiden und ein Vertrauensniveau zu bestimmen dass die Gesichter ihnen imponierten. Die Ergebnisse zeigten, dass KI-Bilder nicht nur fotorealistisch, sondern nahezu ununterscheidbar sind. Noch besorgniserregender ist, dass die Studie herausfand, dass Menschen synthetische Gesichter als vertrauenswürdiger einschätzten als echte Menschen. Die in der Studie verwendeten Bilder waren unterschiedlich in Bezug auf Alter, Rasse und Emotionen. Obwohl die Forscher keine klare Vorstellung davon hatten, warum Menschen synthetischen Gesichtern mehr vertrauen als dem echten, schlugen sie vor, dass dies damit zusammenhängen könnte, dass die falschen Gesichter durchschnittlicher wirkten.
Im Jahr 2019 schaltete Facebook ein Netzwerk gefälschter Konten aus, die künstliche menschliche Gesichter verwendeten. Deep-Fake-Stimme, Bilder und Videos wurden auch verwendet, um Unternehmen anzugreifen. Die Kosten eines Deep-Fake-Angriffs werden mittlerweile auf mehr als 200.000 US-Dollar geschätzt, wobei KI-Experten häufig davor warnen, dass die Zahl der Deep-Fake-Angriffe erheblich zunehmen wird. Dies neuste KI Die Studie warnte auch vor den Risiken und Gefahren und forderte, dass alle Kunststoffe mit Wasserzeichen versehen und gekennzeichnet werden sollten, damit sie leichter zurückverfolgt werden können.
Quelle: Lancaster-Universität