Deepfake é usada por pedófilo em novela da globo e assusta, entenda como funciona
5
0
As Deepfakes não são algo novo, seu aparecimento pode ser rastreado até meados de 2017, quando um usuário do Reddit conhecido como “deepfakes” começou a postar vídeos falsos criados com uma técnica de aprendizado de máquina chamada rede neural generativa (GAN). O nome “Deepfake” é uma combinação de “deep learning” (aprendizado profundo) e “fake” (falso).
O funcionamento da técnica Deepfake envolve o treinamento de uma rede neural generativa em um grande conjunto de dados de imagens e vídeos de uma pessoa, como um ator ou político, para que a rede possa aprender a replicar sua aparência e movimentos faciais. A rede generativa cria então novas imagens ou vídeos que parecem ser da pessoa original, mas com mudanças específicas, como a substituição do rosto.
A qualidade do vídeo e/ou foto gerado depende do poder de processamento e da quantidade de dados disponíveis para o processo de aprendizagem, algo que nos dias atuais é extremamente acessível, com super computadores disponíveis em clouds com valores acessíveis.
Assim como toda tecnologia, as redes neurais generativas podem ser utilizadas tanto para o bem quanto para o mal. Recentemente, a novela da globo Travessia trouxe à tona uma utilização criminosa da tecnologia, onde o personagem homem utiliza um aplicativo de deepfake para alterar sua voz e sincronizar suas falas ao vídeo de uma garota, se passando por uma atriz famosa com intuito de conseguir fotos íntimas de uma adolescente(episódio disponível em https://globoplay.globo.com/v/11434673/?s=0s).
Quais os riscos dos deepfakes
Ainda que o alvo principal da comunidade em torno da ferramenta sejam pessoas públicas, para viralizar conteúdos, nada impede que alguém realmente mal-intencionado pegue um vídeo de uma pessoa comum e o coloque em uma situação constrangedora.
Não pense apenas em vídeos de porn revenge, é possível, por exemplo, forjar um momento de descontração entre amigos para criar um álibi, um depoimento para convencer outros de que você defende um determinado ponto de vista ou mesmo uma situação de crime, de modo a incriminá-lo. Tudo depende da criatividade do editor e de quantos vídeos seus estão disponíveis na internet, principalmente em redes sociais.
Também temos a aplicação de DeepFakes à política, criando falas e vídeos falsos com intuito de difamar algum candidato, ou manipular opinião pública.
Como a qualidade média dos vídeos não é alta, dadas às exigências de hardware, os vídeos costumam ter pequenas falhas, mas podem passar despercebidas e ser bem convincentes a um desavisado.
Como identificar DeepFakes
Emilio Simoni, CEO da AHT Security, especialista em cyber segurança e golpes digitais explica: “Identificar um vídeo de Deepfake pode ser difícil, mas existem algumas dicas que podem ajudar”:
- Analise os movimentos faciais: um vídeo Deepfake pode parecer real, mas os movimentos faciais podem parecer um pouco estranhos ou deslocados.
- Verifique a qualidade do vídeo: um vídeo Deepfake pode ter uma qualidade de imagem um pouco diferente da original, especialmente se o rosto da pessoa foi substituído. Podem haver falhas ou inconsistências na imagem que podem ser difíceis de perceber à primeira vista, portanto, é recomendado assistir mais de uma vez em caso de suspeita.
- Procure por defeitos: se o vídeo tiver sido editado ou manipulado digitalmente, podem haver pequenos defeitos visíveis, como bordas irregulares ou áreas de desfocagem.
- Observe as expressões faciais: se as expressões faciais da pessoa no vídeo parecerem um pouco diferentes do que você esperaria, isso pode ser um sinal de que o vídeo é um Deepfake.
As redes neurais generativas podem ter dificuldades em replicar as expressões faciais naturais da pessoa original, esse é um dos principais pontos de atenção. Porem, com o crescimento cada vez mais acelerado do poder computacional, estas diferenças tentem a se tornar cada vez mais suaves, dificultando a detecção.
Protected by WP Anti-Hacker
Excelente matéria!!! Muito esclarecedora.