Südkorea hat KI eingesetzt, um die Stimme eines toten Superstars wieder auf die Bühne zu bringen, aber es gibt viele ethische Bedenken

Die jüngsten KI-Auftritte haben Fans ihrer Musik und der Technologie begeistert, aber andere haben Bedenken hinsichtlich der Ethik und Rechtmäßigkeit der Wiederbelebung der Stimmen der Toten geäußert. Die Schaffung neuer Werke – oder wiederbelebter Stimmen – durch AI wirft auch urheberrechtliche Fragen auf. Wer gilt als Eigentümer? Der Schöpfer des KI-Programms oder des KI-Systems selbst?

Legendärer koreanischer Sänger

Kim war erst 31 Jahre alt, als er 1996 auf dem Höhepunkt seiner Karriere nach einer Reihe von Hits starb, darunter "A Letter From a Private", http://rss.cnn.com/ "Song of My Life" und "In the Wildnis."

Jahrzehnte später versammeln sich die Fans immer noch in einer Straße, die zu seinen Ehren in der Nähe seines Elternhauses in der Stadt Daegu benannt wurde, obwohl die diesjährigen Ehrungen aufgrund der Coronavirus-Pandemie größtenteils online stattfanden.

Wandgemälde des Künstlers blicken über die Straße, wo Touristen auf gitarrenförmigen Bänken sitzen und Musikern zuhören, die seine größten Hits spielen.

Als der nationale Sender SBS bekannt gab, dass er AI verwendet, um die Stimme von Kim in einem neuen Programm nachzubilden, das diesen Monat ausgestrahlt wird, versetzte er die Fans in Raserei.

"Die erholte Stimme klingt ihm sehr ähnlich, als hätte Kim sie lebend aufgenommen", sagte Kim Jou-yeon, ein Kim-Fan seit 30 Jahren.

Es beeindruckte sogar einen jungen Fan Park Hye-hyun, der gerade zwei Jahre alt war, als Kim starb. "Einer meiner Wünsche war es, mehr Lieder in Kims Stimme zu hören … ich hatte Tränen", sagte sie.

Show inspiriert von einem Go Match

Überraschenderweise gewann Lee eines ihrer drei Spiele.

Für Go müssen zwei Spieler schwarze und weiße Steine ​​auf ein 19-mal-19-Gitter legen. Jeder Teilnehmer versucht, das meiste Territorium zu erobern, indem er die Steine ​​seines Gegners umgibt, damit diese vom Brett entfernt werden.

"Lee-AlphaGo war ein großer Schock, gefolgt von einem kurzen, aber großen Interesse an KI, das noch irgendwo entwickelt wird, aber wir sind noch nicht damit vertraut", sagte SBS-Produzent Nam in einem Telefoninterview.

Nam spürte, dass die koreanische Öffentlichkeit zu einem Update bereit war, und begann, die sechsteilige KI-Wettbewerbsreihe zusammenzustellen, einschließlich der KI-Leistung des verstorbenen Kim Kwang-seok.

Kim neu erschaffen

Das Audio-AI-Unternehmen hinter Kims wiedergeborener Stimme ist Supertone, ein südkoreanisches Startup, das im Jahr 2020 gegründet wurde und laut Choi Hee-doo, Mitbegründer und Chief Operating Officer, AI-Audio-Lösungen für Content-Ersteller anbietet.

"Zum Beispiel ist BTS heutzutage sehr beschäftigt, und es wäre bedauerlich, wenn sie aus Zeitgründen nicht an Inhalten teilnehmen können. Wenn BTS unsere Technologie beispielsweise beim Erstellen von Spielen oder Hörbüchern oder beim Überspielen einer Animation verwendet , müssten sie nicht unbedingt persönlich aufnehmen ", sagte Choi.

Die SVS-Technologie (Singing Voice Synthesis) von Supertone lernt Stimmen, indem sie mehrere Songs mit entsprechenden Noten und Texten hört, erklärte Choi.

Das System lernte 100 Lieder von 20 Sängern, bevor es 10 Kim Kwang-seok-Lieder zum Lernen erhielt. Es kennt jetzt seine Stimme gut genug, um den einzigartigen Stil und die Aussprache des Sängers nachzuahmen, sagte Choi.

In der SBS-Show wird der AI Kim nicht gegen einen menschlichen Sänger antreten – er wird mit einem ein Duett singen. "Wir haben Kim Kwang-seok wiederbelebt, um die Leistungsfähigkeit zu demonstrieren", sagte Nam, der Produzent der Show.

Stattdessen wird Ock Joo-hyun, der frühere Sänger der Mädchenband Fin.K.L, die KI-Maschine übernehmen. So wie das KI-System Kims Stimme gelernt hat, wird es auch darauf trainiert, sie nachzuahmen.

Während einige einen Wettbewerb zwischen einem KI-Sänger und einem Menschen als harmlosen Spaß betrachten, warnen andere, dass die Technologie Bedrohungen darstellt, die durch strengere Richtlinien und Vorschriften angegangen werden müssen.

Mögliche Gefahren der KI

Das technisch versierte Südkorea gilt als führend in der KI-Technologie, es gibt jedoch Forderungen nach mehr Regulierung.

Weltweit fordern Nationen und Organisationen Rechtsreformen, ethische Richtlinien und soziale Vereinbarungen, um den Missbrauch von KI zu verhindern.

Heo Hoon, Chief Technology Officer von Supertone, sagte, er unterstütze Gesetze zur Regulierung der Branche. Er sagte, um die aktuellen Risiken zu mindern, gehe das Unternehmen nicht direkt mit der Öffentlichkeit um und bevorzuge es, mit Unternehmen zusammenzuarbeiten, die seine Ethik teilen.

"Wir sind uns der Möglichkeit bewusst, dass unsere Technologie in Händen der Öffentlichkeit missbraucht wird", sagte Heo. "Ich denke, die Wiederbelebung der Stimme des Verstorbenen würde eine Gegenreaktion bringen, die hoffentlich eine soziale Debatte auslösen und endgültig zur Gesetzgebung führen würde."

Das Unternehmen hat ein gewisses Maß an Schutz in seine Aufnahmen eingebaut, indem es das Audio als von seiner KI produziert markiert, obwohl es für zufällige Zuhörer unwahrscheinlich ist, dass sie es wissen.

"Wir haben eine Wasserzeichentechnologie, bei der es sich um eine in Audio gepflanzte Information handelt, die nicht zu hören ist, aber verfolgt, wo sie hergestellt wurde und wie sie verteilt wird", sagte Heo.

Eigentumsfragen

Die Verwendung von KI zur Schaffung von Werken, die traditionell von menschlicher Kreativität produziert werden, wirft das Problem der Eigenverantwortung auf. Wenn AI die Werke erstellt, besitzt das Programm das Urheberrecht oder gehört es dem Programmierer?

Anwalt Ko Hwan-kyoung, ein Experte für KI und Datenschutz, sagte, das Problem müsse angegangen werden, wenn die KI weiter fortgeschritten sei.

"Das Interessante an AI ist, dass es sich zu einem Level entwickelt, auf dem es schreiben und komponieren kann, indem es Daten studiert", sagte Ko.

Letztes Jahr veröffentlichte Sänger Hayeon "Eyes on You", eine Single, die von einem KI-Programm komponiert wurde. Menschliche Produzenten verfeinerten den Song später laut ihrem Plattenlabel Enterarts.

"Werden wir AI als juristische Person mit Rechtspersönlichkeit wie Menschen anerkennen und das Urheberrecht gewähren?" Ko, der Anwalt, fragte. "Wir brauchen die notwendigen Vorschriften, die die Sicherheit des Menschen gewährleisten, und keine übermäßigen Vorschriften, die die Entwicklung der KI-Technologie behindern."

Im Fall von Kim Kwang-seok sagte Produzent Nam, SBS habe die Zustimmung von Kims Familie erhalten, seine Stimme zu reproduzieren, bevor er mit der Show fortfuhr.

SBS zahlte seiner Familie eine einmalige Gebühr für die Darstellung seiner Stimme in der Show, wie dies auch bei anderen Darstellern der Fall war, sagte Nam. Teile der Show werden nach der Ausstrahlung auf YouTube veröffentlicht, aber weder SBS noch Supertone planen, Kims Song als Single zu veröffentlichen.

"Wir haben vereinbart, die in der Show vorgestellten Songs nicht offiziell zu veröffentlichen", sagte Choi von Supertone.

Daher müssen sich Kim-Fans vorerst damit zufrieden geben, die alten Songs zu spielen, die der echte Sänger vor mehr als 20 Jahren an einem Mikrofon aufgenommen hat.