Pela primeira vez em 25 anos, a distinta voz da superestrela sul-coreana Kim Kwang-seok será ouvida na televisão nacional. O famoso cantor folk morreu em 1996.
De acordo com a CNN, a emissora nacional da Coreia do Sul SBS planeia usar inteligência artificial (IA) para trazer a voz de Kim Kwang-seok de volta à vida num novo programa, “Competição do Século: IA vs Humano”, que vai para o ar no final desta semana.
Kim tinha apenas 31 anos quando morreu em 1996 no auge da sua carreira após uma série de sucessos, incluindo “A Letter From a Private”, “Song of My Life” e “In the Wilderness”.
A sua morte foi considerada tão chocante que alguns nunca aceitaram a causa oficial do suicídio, preferindo acreditar em teorias da conspiração de que foi assassinado.
Décadas depois, os fãs ainda se reúnem numa rua com o seu nome, perto da sua casa da infância na cidade de Daegu. Murais do artista contemplam a rua, onde turistas se sentam em bancos em formato de viola e ouvem músicos a tocar os seus maiores sucessos.
Quando a SBS anunciou que estava a usar IA para recriar a voz de Kim num novo programa, os fãs ficaram num frenesi. “A voz recuperada soa muito parecida com a dele, como se Kim a tivesse gravado ao vivo”, disse Kim Jou-yeon, fã de Kim há 30 anos.
A empresa de IA de áudio por trás da voz reencarnada de Kim é a Supertone, uma startup sul-coreana fundada em 2020 que fornece soluções de áudio de IA a criadores de conteúdo, de acordo com o co-fundador e diretor operacional Choi Hee-doo.
A tecnologia Singing Voice Synthesis (SVS) da Supertone aprende vozes ao ouvir várias músicas com notas e letras correspondentes.
O sistema aprendeu 100 canções de 20 cantores antes de receber 10 canções de Kim Kwang-seok para aprender. Agora, conhece a sua voz suficientemente bem para imitar o estilo e a pronúncia únicos do cantor.
No programa da SBS, o Kim “ressucitado” não vai competir com um cantor humano – vai cantar um dueto com um. “Ressuscitámos Kim Kwang-seok para mostrar a capacidade dele”, disse Nam Sang-moon, produtor do programa.
Enquanto alguns podem considerar uma competição entre um cantor IA e um humano uma diversão inofensiva, outros alertam que a tecnologia representa ameaças que precisam de ser tratadas por diretrizes e regulamentos mais rígidos.
Chovem preocupações éticas
A Coreia do Sul está na vanguarda da tecnologia de IA, mas há demandas por mais regulamentação.
Replicar a voz de alguém apresenta sérios riscos, especialmente se áudio falso for usado em campanhas de desinformação e fraude.
Em dezembro, o Ministério da Ciência e Informação e Tecnologia de Comunicação da Coreia do Sul divulgou a “Diretriz Ética Nacional de IA”, um documento que estabelece os padrões básicos para pessoas envolvidas no desenvolvimento e aplicação de IA. Segundo o documento, a IA deve ser “desenvolvida e usada de acordo com o seu propósito e intenção como uma ferramenta para a vida humana e que o processo também deve ser ético”.
No mesmo mês, o ministério divulgou um roteiro para a legislação de IA, que propõe expandir os direitos de propriedade inteletual da Coreia do Sul além das obras criadas por humanos para os investidores e inventores por trás das criações de IA.
“Estamos claramente cientes da possibilidade da nossa tecnologia ser mal utilizada quando em mãos do público”, disse Heo. “Acho que reviver a voz do falecido traria uma reação negativa, que esperançosamente iniciaria um debate social e levaria conclusivamente à legislação”.
A empresa criou um nível de proteção nas suas gravações, marcando o áudio como sendo produzido por IA, embora os ouvintes casuais provavelmente não saibam. “Temos tecnologia de marca de água, que é uma informação plantada em áudio, que não pode ser ouvida, mas rastreia onde foi feita e como está a ser distribuída”, disse Heo.
O uso de IA para criar obras tradicionalmente produzidas pela criatividade humana também levanta a questão da propriedade. Se a AI cria as obras, o programa detém os direitos autorais ou pertence ao programador?
No caso de Kim Kwang-seok, Nam disse que a SBS obteve o consentimento da família de Kim para reproduzir a sua voz e pagou uma taxa única à família por apresentar a voz no espetáculo.
Partes do espetáculo serão publicadas no YouTube, mas nem a SBS nem a Supertone planeam lançar a música de Kim como single. Assim, por enquanto, os fãs de Kim terão de se contentar com as músicas antigas gravadas pelo cantor real num microfone há mais de 20 anos.
Sem sombra de dúvida uma área que é urgente regulamentar.