Já pensou ver o seu rosto em um vídeo totalmente aleatório? Ou ouvir sua própria voz dizendo coisas que jamais diria? Bom, isso é possível com uma tecnologia chama deepfake, que permite essa manipulação, principalmente em vídeos, de uma forma bastante convincente. Veja abaixo mais detalhes do que é um deepfake e por que é preciso se preocupar com essa técnica.
Técnica de deepfake foi criada pela indústria do entretenimento e é muito utilizada pelo cinema. Porém, em Campo Grande, bandidos usaram da tecnologia para furtar mais de R$ 700 mil de várias vítimas.
Golpistas utilizaram a técnica deepfake para acessar apps bancários em celulares e furtar mais de R$ 700 mil de clientes de bancos em Campo Grande, segundo a polícia. Para especialistas na área digital, o novo golpe é “sofisticado” e faz com que os usuários de bancos online redobrem a atenção.
Segundo investigação da Delegacia Especializada em Repressão a Roubos a Banco, Assaltos e Sequestros (Garras), os hackers estudavam as vítimas nas redes sociais, colhiam imagens e criavam novas imagens digitais por meio de algoritmos.
Deepfake usa Inteligência Artificial para trocar o rosto de pessoas em vídeos, sincronizar movimentos labiais, expressões e demais detalhes, em alguns casos com resultados impressionantes e bem convincentes.
Essa onda de trocar rostos de pessoas em vídeos não é nova. Mas, em dezembro de 2017, um usuário do Reddit, chamado deepfakes, deu um passo além. Com ferramentas de Inteligência Artificial e Aprendizado de Máquina de código aberto, como Keras e TensorFlow (este último, do Google), ele criou um algoritmo para treinar uma Rede Neural a mapear o rosto de uma pessoa no corpo de outra, frame por frame.
No início, o Deepfake exigia conhecimentos avançados por parte do usuário, mas quando outros criaram aplicativos e sistemas capazes de automatizar todo o processo, a ferramenta foi massivamente usada para o mal: logo começaram a surgir dezenas de vídeos adultos editados com o software, com o rosto de atrizes e artistas.
Além dos suspeitos presos, computadores de alta tecnologia, outros dispositivos eletrônicos e um veículo foram apreendidos. O caso foi registrado por furto qualificado pelo concurso de pessoas e fraude. Os policias do Garras seguem em investigação, já que a participação de outras suspeitos não é descartada.
Alguns exemplos de ferramentas de deepfake com fácil acesso são: o aplicativo Reface; os sites DeepSwap e DeepFakes Web; e os programas FaceApp e DeepFaceLab..
Importante destacar que deepfake é diferente de shallowfake. Na verdade, a premissa é a mesma, mas a diferença está na qualidade. No shallowfake a qualidade da manipulação é inferior, facilitando a identificação.
Os tipos de deepfake
Por mais que o foco do deepfake seja a troca de rosto em vídeos, engana-se quem pensa que a prática se restringe a isso. A técnica também é utilizada para a manipulação de áudios, onde podem ser criadas gravações que simulam a voz de determinada pessoa, tipo de deepfake facilmente compartilhável em mensageiros como o WhatsApp.
Além disso, já podemos nos deparar com os deepfakes textuais, com máquinas de escrita gerada por inteligência artificial; deepfakes nas redes sociais, para a criação de perfis falsos na internet; e os deepfakes em tempo real, em que é possível mudar o rosto em transmissões ao vivo, técnica permitida pelo software DeepFaceLive, por exemplo.
Potenciais riscos dos deepfakes
Ainda que o alvo principal da comunidade em torno da ferramenta sejam pessoas públicas, nada impede que alguém realmente mal-intencionado pegue um vídeo de uma pessoa comum e o coloque em uma situação constrangedora.
Não pense apenas em vídeos de porn revenge editados: é possível, por exemplo, forjar um momento de descontração entre amigos para criar um álibi, um depoimento para convencer outros de que você defende um determinado ponto de vista ou mesmo uma situação de crime, de modo a incriminá-lo. Tudo depende da criatividade do editor e de quantos vídeos seus estão disponíveis facilmente na internet.
Como a qualidade média dos vídeos não é muito alta, dadas as exigências de hardware (é preciso no mínimo uma GeForce GTX 1050 para resultados aceitáveis), tais criações chegam a ser bem convincentes a um desavisado, que pensará se tratar de um vídeo real, ainda que eles possuam uma falha.
Deepfake e eleições
A técnica também é utilizada na política. Nas Eleições 2022, inclusive, já foi identificada a primeira deepfake com a apresentadora do Jornal Nacional Renata Vasconcellos. O vídeo, que apresenta uma edição bem feita, utiliza a voz da jornalista para mostrar dados de uma falsa pesquisa de intenção de votos.
Como já citado acima, esses conteúdos acabam chegando a pessoas que não conseguem identificar, imediatamente, essas montagens, aumentando o compartilhamento de fake news e a desinformação.
Como identificar um deepfake
Ao receber um vídeo duvidoso, pare e assista-o diversas vezes, em todas as velocidades, para ficar mais fácil identificar falhas.
Outro passo importante é se atentar ao rosto da pessoa no vídeo. Verifique a pele, os olhos, as sobrancelhas e a boca, por exemplo. Nessas observações, é possível identificar alguma falha, seja um piscar de olhos mais lento ou uma pele muito lisa, ou enrugada.
Por último, pesquise informações sobre o conteúdo recebido (seja ele vídeo, áudio, ou texto), é possível que você se depare com alguma notícia sobre o assunto na internet. Além disso, tente encontrar outra versão da publicação para conseguir comparar as falas e gestos.
Resumindo, atenção máxima a todos os detalhes.
1. Desinformação
O uso do deepfake como forma de influenciar a opinião pública pode ter graves consequências, porque é sempre muito difícil determinar, em um primeiro momento, se o material é real ou não. Assim, a tecnologia pode acabar contribuindo para a disseminação de fake news e compartilhamento de imagens que não retratam a verdade.
Um dos exemplos mais conhecidos é um vídeo do ex-presidente norte-americano Barack Obama em que ele fala sobre o filme Pantera Negra e critica Donald Trump. Embora pareça um discurso normal, a filmagem é falsa e o conteúdo da gravação nunca foi dito por Obama. Aliás, ele foi criado em um exercício idealizado pelo cineasta Jordan Peele para mostrar justamente o quanto essa tecnologia é perigosa. Além de falsificar um discurso, a técnica pode ser usada para criar um vídeo falso de bastidores, em que um agente público faz uma confissão comprometedora falsa, ou ainda matérias de divulgação que espalham notícias falsas.
