ElfLabs
- Das KI-Sprachtechnologieunternehmen ElevenLabs kämpft mit Deepfakes.
- Die Technologie ist zwar innovativ, birgt jedoch das Potenzial für Missbrauch, was bei den Gesetzgebern zu Bedenken führt.
- Der CEO von ElevenLabs sagte, das digitale Wasserzeichen synthetischer Stimmen sei eine Lösung.
Unternehmen, die an der Spitze der KI-Sprachtechnologie stehen, kämpfen mit der Frage, wie sie Deepfakes regulieren können, ohne die Innovation zu unterdrücken.
„Es wird ein Katz-und-Maus-Spiel“, sagte Mati Staniszewski, Mitbegründer und CEO von ElevenLabs. sagte The Atlantic.
ElevenLabs – welche auf einen Wert von 1,1 Milliarden US-Dollar angehoben nach dem Start in der Beta letztes Jahr – nutzt KI, um überzeugende Audioclips zu generieren. Dazu gehören Text-zu-Sprache-Voiceovers, das Synchronisieren von Audio in 29 Sprachen und das Klonen von Stimmen. Das Unternehmen gibt an, dass seine Nutzer im vergangenen Jahr über 100 Jahre Audio erzeugt haben.
Allerdings befürchten die Gesetzgeber, dass die Technologie ein gefährliches Missbrauchspotenzial birgt.
Fortschritte in der KI korrelieren mit einem Anstieg hochentwickelter Telefonbetrügereien, bei denen betrügerische Betrüger sich als Liebespartner, Familienangehörige oder Regierungsbeamte ausgeben. Bidens KI-Chef, Bruce Reed hat sogar „Stimmenklonen“ gesagt ist das Einzige, was ihn nachts wach hält.
Und letztes Jahr nutzten 4chan-Benutzer das Tool von ElevenLabs, um Deepfakes von Prominenten zu generieren, die rassistische und transphobe Inhalte verbreiteten. laut Vice.
Aber Staniszewski ist ein Idealist.
Er sieht, dass die Technologie von ElevenLabs dazu beiträgt, dass Patienten mit neurodegenerativen Erkrankungen wie ALS auch dann noch mit ihrer Stimme kommunizieren können, wenn sie die Fähigkeit zum Sprechen verloren haben. Es hat auch das Potenzial, Menschen bei der Kommunikation über Kulturen und Sprachen hinweg zu unterstützen.
New Yorker Bürgermeister Eric Adams hat Robocalls getätigt in Mandarin, Jiddisch und Haitianisch-Kreolisch mit ElevenLabs-Technologie und sagte, er sei in der Lage gewesen, mehr nicht englischsprachige Einwohner der Stadt zu erreichen.
Um dieses Potenzial zu nutzen und gleichzeitig Betrug zu verhindern, sollten Benutzer laut Staniszweski in der Lage sein, KI-generierte Stimmen von menschlichen zu unterscheiden. Die „wahre Lösung“, sagte Staniszewski gegenüber The Atlantic, besteht darin, synthetische Stimmen mit einem digitalen Wasserzeichen zu versehen, damit Menschen echte von falschen unterscheiden können.
Das Unternehmen entwickelt die Technologie weiter, sie wird jedoch nur in Zusammenarbeit mit anderen Unternehmen wirksam sein. ElevenLabs hat eine unterzeichnet Übereinstimmung mit mehreren anderen KI-Unternehmen, darunter OpenAI, Anthropic, Google und Meta, um Deepfakes bei der Wahl 2024 zu bekämpfen.
ElevenLabs reagierte nicht sofort auf eine Bitte um einen Kommentar von Business Insider.