A Amazon revelou um recurso experimental do Alexa que permite que o assistente de IA imite as vozes dos parentes mortos dos usuários.
A empresa demonstrou o recurso em sua conferência anual MARS, mostrando um vídeo em que uma criança pede a Alexa para ler uma história de ninar na voz de sua avó morta.
“Como você viu nesta experiência, em vez da voz de Alexa lendo o livro, é a voz da avó da criança”, disse Rohit Prasad, cientista-chefe da Amazon para Alexa AI. Prasad apresentou o clipe dizendo que adicionar “atributos humanos” aos sistemas de IA era cada vez mais importante “nestes tempos de pandemia em andamento, quando muitos de nós perdemos alguém que amamos”.
“Embora a IA não possa eliminar a dor da perda, ela pode definitivamente fazer suas memórias durarem”, disse Prasad. Você pode assistir a demonstração em si abaixo:
A Amazon não deu nenhuma indicação se esse recurso será tornado público, mas diz que seus sistemas podem aprender a imitar a voz de alguém a partir de apenas um minuto de áudio gravado. Em uma era de vídeos e notas de voz abundantes, isso significa que está ao alcance do consumidor médio clonar as vozes de seus entes queridos – ou de qualquer outra pessoa que eles gostem.
Embora esse aplicativo específico já seja controverso, com usuários nas mídias sociais chamando o recurso de “assustador” e “monstruoso”, esse mimetismo de voz de IA se tornou cada vez mais comum nos últimos anos. Essas imitações costumam ser conhecidas como “deepfakes de áudio” e já são usadas regularmente em setores como podcasting, cinema e TV e videogames.
Muitos conjuntos de gravação de áudio, por exemplo, oferecem aos usuários a opção de clonar vozes individuais de suas gravações. Dessa forma, se um apresentador de podcast errar sua fala, por exemplo, um engenheiro de som pode editar o que disse simplesmente digitando um novo script. Replicar linhas de fala contínua requer muito trabalho, mas edições muito pequenas podem ser feitas com apenas alguns cliques.
A mesma tecnologia também foi usada no filme. No ano passado, foi revelado que um documentário sobre a vida do chef Anthony Bourdain, que morreu em 2018, usou IA para clonar sua voz para ler citações de e-mails que ele enviou. Muitos fãs ficaram enojados com a aplicação da tecnologia, chamando-a de “macro” e “enganosa”. Outros defenderam o uso da tecnologia como semelhante a outras reconstruções usadas em documentários.
Prasad, da Amazon, disse que o recurso pode permitir que os clientes tenham “relacionamentos pessoais duradouros” com o falecido, e certamente é verdade que muitas pessoas ao redor do mundo já estão usando a IA para esse fim. As pessoas já criaram chatbots que imitam entes queridos mortos, por exemplo, treinando IA com base em conversas armazenadas. Adicionar vozes precisas a esses sistemas – ou mesmo avatares de vídeo – é totalmente possível usando a tecnologia de IA de hoje e provavelmente se tornará mais difundido.
No entanto, se os clientes querem ou não que seus entes queridos mortos se tornem fantoches de IA digital é outra questão.
