Apesar de terem começado como uma forma de brincadeira com diversos vídeos virais de super-heróis com rostos diferentes, fotos e vídeos manipulados, conhecidos como deepfake, estão sendo usados por cibercriminosos em golpes, esquemas de extorsão e fraudes. De acordo com uma pesquisa do The Sentinel, de 2019 a 2021, o número de montagens deste tipo cresceu de 14 mil para 145 mil. A ESET analisa esses materiais e ajuda a alertar as crianças a partir de sua iniciativa Digipais, que permite que mães, pais e docentes acompanhem e cuidem dos pequenos na internet.

Os deepfakes (do inglês “deep”, profundo, e “fake”, falso) utilizam uma forma de machine learning que é chamada “tecnologia de aprendizado profundo” – forma de aprendizado automático que tem como objetivo criar imagens, vídeos ou áudios que forjam acontecimentos, duplicando a voz ou expressões faciais de um indivíduo. O resultado mostra pessoas em situações que elas nunca estiveram. Assim, as montagens podem ser usadas para ridicularizar ou até mesmo assediar figuras públicas. Um exemplo são os vídeos da atriz Margot Robbie realizando trends no TikTok.

Leia mais:
Deepfake transforma Tom Cruise em Homem de Ferro; veja o resultado
Opinião: políticos vítimas de deepfake

O perigo para os pequenos

Embora seja comum falar sobre esse tema, é raro comentar sobre como essa tecnologia expõe as crianças a riscos. Com o avanço de apps que colocam deepfake em mãos de uma grande variedade de pessoas, os vídeos sintetizados chegaram às escolas e se converteram em um meio de abuso, por exemplo, ao incluir o rosto de uma menina tímida em um vídeo de uma música de mulheres com pouca roupa, dançando de forma provocativa.

“As versões mais simples dessas manipulações podem ser feitas facilmente usando aplicativos, como o FaceApp ou FaceSwap, mas os mais complexos exigem certa habilidade e um equipamento especializado e mais técnico”, explica Camilo Gutiérrez, chefe do Laboratório de Investigação da ESET.

Ainda que os criadores desses vídeos considerem suas ações como uma fonte inocente de entretenimento, os vídeos manipulados podem fazer com que a criança fique constrangida e pode estragar a relação da vítima com o ambiente escolar, por conta da situação desagradável.

Tecnologia para o bem

Mas os deepfakes também podem ser usados para o bem, ao permitir que as crianças se transformem nos protagonistas de seus programas, videogames e filmes favoritos. O Museu Salvador Dalí, na Flórida (EUA), por exemplo, usou montagens para gerar vídeos interativos do artista catalão. O Dalí virtual pode cumprimentar os visitantes e até mesmo responder perguntas, tornando o museu mais atrativo para o público jovem.

“Assim como acontece com outras tecnologias, seria precipitado julgar o deepfake como algo puramente negativo, sem levar em conta seus possíveis benefícios. No entanto, devemos tomar medidas para evitar o uso malicioso dessa técnica contra as crianças”, afirma Camilo.

Conselhos para combater deepfake na infância

• Assistir juntos alguns vídeos deepfake e começar a conversar

O primeiro passo para prevenir o uso indevido de deepfake é tomar o tempo necessário para assistir a vídeos e analisar juntos o tema. Falar sobre porque eles existem e para quê podem ser usados, contar se você gosta ou não de vídeos desse tipo e os motivos. Além disso, falar sobre responsabilidade e consentimento, explicando porque só se deve usar a voz ou o rosto de alguém depois de pedir permissão. Criar um espaço de troca seguro e informar que, caso encontrem montagens usadas como forma de bullying ou abuso, podem alertar os pais, e confirmar se as crianças sabem a quem se dirigir, em caso de necessidade, não apenas na família, mas também às autoridades da escola.

• Tentar diferenciar vídeos deepfakes e reais

Ainda que seja cada vez mais difícil identificar vídeos falsos, alguns aspectos podem ajudar a detectar sua autenticidade. Em primeiro lugar, procurar movimentos estranhos, como piscadas artificiais. Os vídeos manipulados têm dificuldade de replicar ações físicas mais sutis: o áudio pode não estar sincronizado com os movimentos dos lábios, pode ter falhas nas linhas do rosto ou do cabelo. Também existem diferenças notáveis na iluminação, o rosto pode ser mais claro ou escuro que o corpo, pode haver uma sombra estranha ou cada olho pode refletir uma imagem diferente. Esses pontos, mesmo que em pequena quantidade, podem ser difíceis de notar, porque essa tecnologia segue avançando. Por último, examine o conteúdo.

• Falar com as crianças sobre o que elas compartilham online

Quando os pequenos postam fotos e vídeos na internet podem compartilhar, sem saber, tudo necessário para criar um deepfake deles, potencialmente os prejudicando. Além de observar o que elas mostram, é necessário falar com as crianças sobre as redes sociais e os aplicativos que usam. Ainda que grandes plataformas tenham configurações de privacidade mais avançadas, algumas redes sociais mais novas ou menos populares podem não proteger a privacidade das crianças. Ofereça alternativas, como sugerir que compartilhem fotos apenas em grupos privados da família ou de amigos. Assim, em vez de criticar os pequenos, você oferece soluções sem proibi-los, tornando mais fácil a tarefa de protegê-los.

• Explorar juntos e encontrar medidas preventivas

Navegue com as crianças pela internet e conheça o mundo que elas participam, respeitando sua privacidade e, ainda assim, sabendo quais tipos de conteúdo consomem. Se os pequenos decidirem usar aplicativos que criam deepfake, como o FaceApp ou o FaceSwap, é melhor experimentar a ferramenta juntos e utilizá-la como forma de entretenimento, mas com consciência e educação, não como forma de ridicularização dos outros.

Quer ficar por dentro do mundo da tecnologia e ainda baixar gratuitamente nosso e-book Manual de Segurança na Internet? Clique aqui e assine a newsletter do 33Giga