Empresa contratada pela Globo usa método obscuro de IA para dublagem de série

O uso de inteligência artificial generativa na série documental Rio-Paris - A Tragédia do Voo 447, do Globoplay, incendiou a discussão sobre o impacto da prática no mercado de dublagem. A questão, no entanto, é mais complexa. Isso porque a empresa contratada pela Globo não deixa claro quais referências foram usadas para alimentar sua tecnologia, que promete (e entrega) clonar qualquer voz e gerar áudios em diversos idiomas.

A produção lançada no último dia 31 contou com a tecnologia desenvolvida pela Elevenlabs para dar vozes em português aos entrevistados estrangeiros que concordaram com a prática. Um aviso antes de cada um dos quatro episódios sinaliza aos espectadores que não foram usados dubladores profissionais:

"A versão em português das entrevistas concedidas em língua estrangeira para este documentário foi feita a partir da voz dos próprios entrevistados, com o uso de inteligência artificial, respeitando-se todos os direitos e leis aplicáveis. O conteúdo das dublagens é fiel às entrevistas originais. Os entrevistados que não aceitaram a dublagem foram legendados".

VEM AÍ

'Pratas da casa': HBO convoca dupla de Succession para série de Harry Potter

550 EPISÓDIOS

Os cinco casos mais marcantes de Olivia Benson em Law & Order: SVU

Assim que os episódios entraram no catálogo do Globoplay, o perfil Dublagem Viva soltou um comunicado rechaçando a prática. "Só nesse único projeto, estima-se que aproximadamente 50 profissionais, direta e indiretamente ligados à dublagem, perderam trabalho. Imaginem só se todas as distribuidoras, serviços de streaming e produtoras decidirem fazer isso a partir de agora?", questionou um trecho da postagem do perfil criado por dubladores para cobrar regulamentação do uso de IA no setor.

O que é Elevenlabs?

A empresa que desenvolveu a tecnologia usada na série Rio-Paris foi fundada em 2022 por Piotr Dąbkowski, ex-engenheiro do Google, e Mateusz Staniszewski, ex-estrategista da Palantir, e se especializou em clonagem de vozes por meio de IA. No início de 2024, a Elevenlabs teve sua avaliação de mercado elevada para mais de US$ 1 bilhão (R$ 5,25 bilhões na cotação atual).

Um dos programas oferecidos é capaz de detectar automaticamente o idioma do texto falado e gerar uma voz com nuances emocionais específicas em até 30 idiomas. Para isso, o usuário precisa apenas enviar algumas amostras de sua voz para a plataforma. A empresa divulgou em janeiro que seus usuários já haviam produzido material equivalente a 100 anos de áudio.

Mais do que só a voz

O ponto crítico do serviço oferecido é que a Elevenlabs mantém obscura a informação sobre as fontes usadas para alimentar sua inteligência artificial. Ainda que um usuário nunca ouça a sua voz dublando um personagem de filme, por exemplo, quem é capaz de assegurar que a entonação usada por ele no material enviado à plataforma não serviu para a máquina aprender mais sobre o idioma e lucrar com isso?

"Para uma IA poder fazer uma voz, ela precisou ser alimentada previamente com mais do que o timbre dos depoentes que aparecem no documentário. Precisou também de outras amostras de brasileiros falantes de português para ela poder construir os fonemas que formam o diálogo", alerta Fábio Azevedo presidente da Dublar (associação de dubladores) e cofundador do movimento Dublagem Viva, em conversa com o Notícias da TV.

"Ou seja, pessoas tiveram seus áudios usados de maneira indevida para alimentar a IA com nossa prosódia, melodia e tonalidade, para então a voz dos depoentes ser sobreposta ao português do Brasil", complementa. "Quem alimentou essa IA? Os direitos conexos dessas pessoas foram garantidos? Elas estão identificadas em algum lugar?", indaga.

Questionada pela reportagem, a Globo se esquivou da polêmica dizendo que cumpriu "o compromisso assumido com algumas empresas de dublagem de não utilizar as vozes de seus dubladores através de processos de IA ou para o treinamento de IA". No entanto, não respondeu perguntas sobre o processo utilizado pela Elevenlabs para alimentar a tecnologia de geração de vozes.

"Não acredito que a Globo tenha feito diretamente nada de errado ou usado indevidamente a voz de ninguém, mas ela contratou uma empresa que não sabemos se fez isso ou não", pondera Azevedo. "Esse é o grande problema. De uma voz, é possível minerar mais do que a voz identificável, mas também a prosódia. Da voz identificável, como o próprio nome diz, dá pra encontrar o dono; já da prosódia, não", completa.

O assunto, no entanto, ainda percorre uma zona cinzenta em que não há legislação específica pra regulação. A LGPD (Lei Geral de Proteção de Dados Pessoais) assegura que é necessária uma autorização para utilizar a voz de alguém, mas o problema vai além:

"A LGPD deixa explícita a necessidade de consentimento para uso de material personalíssimo, no caso, nossa voz. O problema é a ausência de transparência nos modelos atuais. Ninguém sabe quem alimentou a prosódia ou a melodia vocal do material que foi feito com IA no produto da Globo [por exemplo]. Sabemos só que copiaram o timbre da voz dos depoentes", explica Azevedo.

Tecnologia x acessibilidade

O protesto do movimento Dublagem Viva aponta outros problemas na ausência de profissionais do setor para dar voz a produtos audiovisuais. Os personagens que não toparam terem suas vozes usadas por IA na série do Globoplay foram legendados, o que gera um ruído de acessibilidade --para cegos e pessoas que têm dificuldade de leitura, por exemplo.

"A IA sem regulamentação não é o futuro; infelizmente, ela é o presente.
Um presente que ameaça empregos e, consequentemente, rendas e famílias inteiras de manterem um padrão de vida minimamente digno", lamentou o movimento Dublagem Viva.

Confira na íntegra a nota da Globo sobre o uso de IA em Rio-Paris:

"A Globo sempre esteve na vanguarda da inovação tecnológica e não tem sido diferente com a adoção da inteligência artificial. Antes mesmo de as ferramentas disponíveis estarem sendo aplicadas pelo mercado, realizamos testes e desenvolvemos soluções internas que estão em experimentação e uso, especialmente em apoio aos talentos, aos processos produtivos e à acessibilidade. Assim como em nossas demais atividades, sempre de forma ética, com transparência, buscando a qualidade e respeitando a questão dos direitos. Foi o que aconteceu em Rio-Paris: cumprimos o compromisso assumido com algumas empresas de dublagem de não utilizar as vozes de seus dubladores através de processos de IA ou para o treinamento de IA."

Rio-Paris: A Tragédia do Voo 447

A série documental reconta a história do avião da Air France que caiu no oceano horas depois de decolar do Rio de Janeiro rumo a Paris. A aeronave tinha a bordo 228 pessoas de 32 nacionalidades, sendo 59 brasileiros.

Rio-Paris - A Tragédia do voo 447 é uma produção do Jornalismo da Globo para o Globoplay e traz depoimentos de familiares, reconstituição da noite do acidente, entrevistas com especialistas e reportagens exibidas na época.

As conversas entre os pilotos na cabine do avião foram reproduzidas a partir das gravações das caixas-pretas, encontradas quase dois anos depois do acidente.

"Foi um desafio enorme manter a série fiel ao conteúdo das caixas-pretas e aos relatórios investigativos das autoridades francesas, com contrapontos de pessoas diretamente ligadas às buscas e investigações, e também especialistas do setor. Mas revisitar a dor da perda é sempre mais complicado. Fazer um recorte honesto, conseguir retratar um pouco do sofrimento de cada um e, ao mesmo tempo, render uma homenagem a todas as vítimas foi sempre um norte para toda equipe", disse o roteirista Gabriel Mitani em entrevista enviada à imprensa.

Movimento dos dubladores

O uso de IA em produções audiovisuais foi ponto crucial da discussão durante a greve dos roteiristas e dos atores de Hollywood, que durou quase quatro meses em 2023. Alinhados a essa tendência, dubladores brasileiros criaram o Dublagem Viva, para pedir atenção à regulamentação do setor.

A principal reivindicação é que artistas não sejam substituídos por tecnologia de inteligência artificial generativa, que é capaz de recriar falas a partir de registros gravados anteriormente. Um relatório da Universidade de Oxford, publicado em 2013, inclui os dubladores entre profissionais colocados em risco pelo avanço da tecnologia.

Enquanto a regulamentação não vem, estúdios ao redor do mundo experimentam IA em suas produções, principalmente com o uso de réplicas realistas, que reduzem o número de figurantes numa cena de guerra, por exemplo.

No Brasil, os dubladores querem equilibrar os avanços tecnológicos com a preservação de empregos. Para isso, os profissionais têm convocado fãs para a audiência pública que ocorre no próximo dia 17 na Assembleia Legislativa de São Paulo (Alesp) em defesa do direito dos dubladores.