Reportagem apurou que aplicativo pretende lançar rostos de personalidades brasileiras; o Impressions App já permite simular imagem de Trump e Obama, além de celebridades dos EUA. O Seguinte: reproduz artigo da Agência Pública
– Hey, Brasil. Estou em praia de Rio de Janeiro pescando – diz o cantor Justin Bieber, em português, em um vídeo gravado em Cabo Frio.
Com mais de 80 mil curtidas, o conteúdo em questão não foi produzido pelo cantor, mas por um influencer brasileiro, Daniel Xavier, utilizando um aplicativo que permite trocar seu rosto pelo de celebridades e políticos — e que pode mudar a forma como conteúdos falsos são produzidos atualmente.
Por R$ 20,90 a semana, qualquer pessoa com um celular com sistema operacional IOS pode, em poucos minutos, criar vídeos de até 20 segundos, trocando seu rosto pelo de uma celebridade através de deepfakes, técnicas que usam inteligência artificial e escaneamento de imagens. Além de Bieber, o aplicativo permite utilizar os rostos das cantoras Rihanna, Miley Cyrus e Alicia Keys, de atores como Angelina Jolie, Brad Pitt e Morgan Freeman, e também de políticos como Donald Trump e Barack Obama. Ao todo, são 80 rostos, todos de pessoas estrangeiras. O aplicativo também inclui falas reais das personalidades para serem dubladas pelos usuários.
A “troca de rostos”, contudo, não é perfeita. No caso de Daniel, a tecnologia é auxiliada por características do influencer que já se assemelham às de Bieber (cabelo, estatura e tom de pele), que ajudaram o brasileiro a passar de 28 mil seguidores para mais de 400 mil após usar as deepfakes.
Lançado nos EUA em fevereiro, o Impressions App está disponível no Brasil desde 28 de março e ganhou popularidade através dos vídeos do “Justin Bieber brasileiro”. Segundo dados enviados pela Impressions à Agência Pública, os brasileiros já são a segunda maior nacionalidade na plataforma, com 20% do total de usuários — o número total de downloads não foi informado. O aplicativo é propriedade da Synthesized Media, fundada pelos desenvolvedores Murat Deligoz e Ari Bencuya, que saíram da empresa de inteligência artificial aplicada a marketing, AdVelvet.
O Impressions não é o primeiro a disponibilizar ferramentas para criar deepfakes: o chinês ZAO permite que o usuário coloque seu rosto em vídeos famosos; o Doublicat, dos EUA, também. A novidade do aplicativo, contudo, é a alta resolução das imagens e a possibilidade de usar o rosto de celebridades em diferentes contextos, que abrem brechas para um potencial uso danoso da tecnologia.
Segundo Sam Gregory, pesquisador e diretor de projeto da Witness, organização que defende os direitos humanos através de recursos audiovisuais, é cada vez mais comum que recursos de inteligência artificial e deepfakes sejam disponibilizados através de aplicativos, mas o Impressions oferece recursos mais perigosos.
– Ele se aproxima mais de possíveis usos maliciosos de deepfakes que os outros, porque através dele você se apropria do rosto de outra pessoa, não do corpo.
O plano das deepfakes para decolar no Brasil
Segundo a Pública apurou, o Impressions pretende disponibilizar “rostos” de celebridades brasileiras ainda em 2020.
– Temos planos para adicionar estrelas locais até o final do ano – afirmou à reportagem Ari Bencuya, um dos fundadores do Impressions, sem dizer quais personalidades estão sendo estudadas.
Toda segunda-feira, o aplicativo adiciona pelo menos três novas personalidades à plataforma.
A reportagem também descobriu que o Impressions tem buscado parcerias com influenciadores locais para investir no mercado brasileiro. Conhecido por produzir vídeos satíricos de deepfakes com o presidente Jair Bolsonaro, Bruno Sartori foi convidado pela empresa para divulgar a tecnologia no Brasil.
– Eu não fechei com eles por receio de não saber o que a plataforma quer, e quais medidas ela vai tomar para que as pessoas não criem qualquer tipo de conteúdo nela – revelou à reportagem.
Sartori conta que questionou o Impressions à respeito de como o app evitaria o uso da tecnologia de deepfakes para a criação de vídeos maliciosos, com desinformação, ou conteúdo sexual não consensual, mas não obteve resposta.
– Eles falaram que estavam chegando agora no Brasil e que ainda não tinham estrutura para dar essas respostas – comenta.
