O Que São Deepfakes? Como a IA Falsifica Fotos, Vídeos e Vozes

O que é realmente um deepfake

A maioria dos pais cruza-se com a palavra pela primeira vez num título — uma celebridade que nunca disse aquilo, um político que nunca esteve ali, o rosto de um colega de turma sobre um corpo que nunca foi seu. Os títulos são reais, mas deixam uma lacuna: uma definição prática que um pai possa de facto usar. Sem ela, cada foto estranha parece ou inofensiva ou sinistra, e nenhuma das suposições ajuda o seu adolescente.

Um deepfake (também escrito como duas palavras, deep fake) é um conteúdo de média sintético — uma imagem, um vídeo ou um clipe de áudio — criado ou alterado por inteligência artificial de modo a mostrar de forma convincente uma pessoa real a fazer ou a dizer algo que nunca fez. A Encyclopædia Britannica define-o como média sintético «que retrata algo que não existe na realidade ou acontecimentos que nunca ocorreram». A própria palavra é uma fusão de deep learning, a técnica de IA que a alimenta, e fake — e a palavra é mais jovem do que os adolescentes que agora afeta.

O termo surgiu no final de 2017, quando um utilizador do Reddit criou um subreddit chamado «r/deepfakes» e começou a publicar aí vídeos com troca de rosto, dando o nome a toda a categoria. Em menos de uma década, percorreu o caminho de um canto obscuro da internet até um problema dos corredores das escolas. Essa velocidade importa: a tecnologia com que o seu adolescente vive é mais recente do que a maior parte dos conselhos que os pais ouviram sobre ela.

Um único rótulo estende-se agora por três coisas diferentes — um rosto sobreposto a outro corpo, uma voz clonada a partir de uma curta gravação e, no seu limite mais vago, um rosto que não pertence a ninguém. Em rigor, um deepfake imita ou altera uma pessoa real; um rosto totalmente inventado é um parente próximo — média sintético usado da mesma maneira, em perfis falsos e burlas. O que os une não é como são construídos mas o que conseguem: um resultado suficientemente autêntico para ser acreditado. O guia-pilar sobre os riscos da IA para adolescentes trata cada um como uma versão amplificada de um perigo mais antigo; este guia mantém-se no próprio deepfake — o que é, como é feito e por que está de repente em todo o lado.

Como os deepfakes são realmente feitos

Não precisa de saber construir um para proteger o seu adolescente dele — e este guia não vai explicar como. Mas um pai que compreende a mecânica geral é muito mais difícil de enganar, e muito mais capaz de explicar o risco a um adolescente cético. No centro de quase todos os deepfakes está uma ideia simples: mostre a um modelo de IA exemplos reais suficientes de um rosto ou de uma voz, e ele aprende a produzir novos exemplos convincentes.

O método mais conhecido é a rede adversária generativa, ou GAN — um ponto de viragem na tecnologia quando chegou, em meados da década de 2010. Dois modelos de IA são postos um contra o outro no que equivale a um jogo de falsificador e inspetor, e o falsificador continua a melhorar até o inspetor já não conseguir apanhá-lo.

Os deepfakes são frequentemente produzidos usando redes adversárias generativas (GAN), nas quais dois modelos diferentes de aprendizagem profunda da IA trabalham em conjunto num jogo de adivinhação. Um dos modelos cria a melhor réplica possível de uma imagem ou vídeo real e o outro deteta se a réplica é falsa e, se detetar um erro, relata as diferenças entre ela e o original.

— Encyclopædia Britannica, «Deepfake»

Os sistemas mais recentes usam modelos de difusão — agora comuns em ferramentas de imagem e vídeo —, que partem de ruído aleatório e o refinam, passo a passo, até obterem uma imagem que corresponde a uma descrição. O vídeo com troca de rosto tende a apoiar-se noutra ferramenta — uma rede que o MIT Sloan descreve como um «autocodificador variacional», treinado para comprimir um rosto num padrão compacto e reconstruí-lo sobre a cabeça de outra pessoa. Uma voz é clonada alimentando um modelo com gravações reais até este conseguir imitar a forma como uma pessoa fala. Os detalhes diferem; o princípio não. Mostre à máquina o suficiente de algo real, e ela fabricará algo falso.

O detalhe técnico move-se mais depressa do que qualquer pai consegue acompanhar — e não precisa de ser acompanhado. As mesmas famílias de modelos que alimentam filtros de fotos inofensivos e ajudantes de trabalhos de casa também alimentam o abuso, e é precisamente por isso que a tecnologia é tão difícil de isolar, e por que a pergunta útil não é «como é que a proíbo» mas «como verificamos aquilo que estamos a ver».

As três formas que vai realmente encontrar

Para um pai, a taxonomia útil não é técnica. Tem a ver com o que chega — ao telemóvel do seu adolescente, à sua própria caixa de mensagens de voz ou a um chat de grupo. Três formas cobrem quase tudo.

As fronteiras esbatem-se: um perfil falso pode juntar um rosto sintético a uma voz clonada e a um clipe com troca de rosto oferecido como «prova». Essa última forma é a maneira como a IA reconstrói o clássico catfishing — o pilar aborda em detalhe as personas de catfishing construídas por IA. Mas nomear a forma é o primeiro passo para julgar a coisa concreta que foi enviada ao seu adolescente.

Por que se tornou de repente barato, rápido e fácil

Durante a maior parte da história da computação, falsificar um rosto de forma convincente exigia um estúdio, um orçamento e um especialista. Duas coisas mudaram isso. A primeira foi o salto técnico já descrito — os métodos generativos que chegaram em meados da década de 2010. A segunda foi a distribuição: ferramentas e serviços gratuitos e descarregáveis que baixaram de forma constante a barreira para os não especialistas. Aquilo que outrora exigia um estúdio e um especialista tornou-se muito mais acessível.

A mudança que mais importa a um pai não é a velocidade mas a matéria-prima. Um deepfake já não precisa de uma imagem privada ou comprometedora para começar. Precisa apenas de imagens comuns de um rosto — do género que já está num livro de finalistas, na lista de uma equipa, na publicação de um amigo, num perfil público ou numa conta antiga. O FBI alerta que os agentes maliciosos retiram «fotos ou vídeos — normalmente captados a partir da conta de redes sociais de uma pessoa, da internet aberta, ou pedidos à vítima» — e os transformam em algo que a pessoa nunca fez. A matéria-prima é a pegada comum que qualquer adolescente deixa online — e é por isso que uma pegada menor e mais privada é uma das poucas proteções práticas, não porque publicar tenha alguma vez sido o erro do adolescente.

Os números acompanham a propagação. O primeiro verdadeiro recenseamento de deepfakes, o relatório de 2019 da Deeptrace, contou 14 678 vídeos deepfake online — quase o dobro do número de sete meses antes, e 96% deles pornografia não consensual. Em 2023, a empresa de verificação de identidade Sumsub relatou um aumento de dez vezes nos deepfakes que detetou num único ano. As duas contagens medem coisas diferentes — vídeos online versus falsificações apanhadas em verificações de identidade —, mas apontam na mesma direção: em apenas alguns anos, o média sintético passou de uma curiosidade a um problema à escala de massas.

Onde os adolescentes encontram realmente os deepfakes

A maior parte do conteúdo alterado por IA que o seu adolescente vê é inofensivo — filtros de rosto, dobragens de voz para fins humorísticos, efeitos de rejuvenescimento — e tratar tudo isso como uma ameaça só lhe custará credibilidade. O dano começa quando as mesmas técnicas de média sintético são usadas para fazer passar por outrem, humilhar, burlar ou coagir, e chega aos adolescentes através de um punhado de portas reconhecíveis.

• Chamadas e mensagens de burla Uma voz clonada alimenta a chamada da «emergência familiar». A FTC alerta que um burlão precisa apenas de «um curto clipe de áudio … que poderia obter de conteúdo publicado online». A voz do outro lado da linha pode ser a de um familiar — ou a do seu adolescente, clonada para o enganar.
• Imagens íntimas falsas Fotos comuns transformadas em falsificações explícitas. Isto já atingiu escolas reais: no final de 2023, um aluno de uma escola secundária de Nova Jérsia foi acusado de usar IA para falsificar imagens de nudez de colegas — uma das raparigas disse estar entre mais de trinta visadas. A criança em qualquer foto destas não fez nada de errado; quem a fez é que fez. O pilar aborda na íntegra os nus deepfake e as aplicações de «nudify».
• Sextortion Chantagem que já não precisa de uma imagem real. O FBI relata que as vítimas, incluindo menores, ficam muitas vezes «sem saber que as suas imagens foram copiadas, manipuladas e divulgadas, até que isso lhes foi dado a conhecer por outra pessoa». Veja a sextortion impulsionada por IA.
• Bullying Clipes falsos, «recibos» falsos e imagens humilhantes a circular por um ano de escolaridade — assédio entre pares tornado mais convincente por «provas» sintéticas. Encaixa-se diretamente no ciberbullying.
• Pessoas falsas Rostos e personas sintéticos por trás de perfis de catfishing, fazendo um desconhecido parecer um adolescente credível. O nosso guia para verificar se uma pessoa online é real continua a aplicar-se — só que agora tem de trabalhar mais.

A escala é real mas facilmente mal interpretada. Em 2024, o National Center for Missing & Exploited Children registou um aumento de 1325% nas denúncias envolvendo IA generativa e, ao longo de 2024 e 2025, identificou mais de 275 vítimas diretas de material de abuso sexual de menores gerado por IA — muitas vezes abusadas por alguém já presente na vida da criança. Os totais brutos de 2025 parecem ainda muito maiores, mas o NCMEC adverte que a maior parte desse volume veio de uma única fonte de denúncia e não tinha detalhe suficiente para agir. Estes casos são difíceis de ler. São também superáveis, e a resposta está bem estabelecida.

Por que isto importa, mesmo que o seu adolescente nunca seja alvo

Há uma consequência mais silenciosa que toca todos os adolescentes, sejam ou não alvo. Durante gerações, «vi com os meus próprios olhos» era o fim de uma discussão. Os deepfakes põem fim a essa era. Quando qualquer imagem pode ser falsa, acontecem duas coisas ao mesmo tempo: as coisas falsas tornam-se mais fáceis de acreditar e — de forma mais corrosiva — as coisas verdadeiras tornam-se mais fáceis de negar.

Ironicamente, os mentirosos que procuram fugir à responsabilidade pelas suas palavras e ações reais tornar-se-ão mais credíveis à medida que o público se for instruindo sobre as ameaças colocadas pelos deep fakes.

— Bobby Chesney & Danielle Citron, «Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security», California Law Review (2019)

Os juristas chamam a isto o dividendo do mentiroso: uma vez que todos saibam que existem falsificações, um vídeo verdadeiro pode ser descartado como «provavelmente IA». Para um adolescente, isso pode significar uma captura de ecrã genuína de bullying rejeitada como inventada, ou um pedido de desculpas real negado. O dano dos deepfakes não são apenas as próprias falsificações — é a dúvida que lançam sobre tudo o que é real. Pode ler o argumento completo na California Law Review.

O instinto é aprender a detetar as falsificações. Vale a pena conhecer os sinais clássicos — mãos estranhas, dentes esquisitos, iluminação incompatível, pestanejar não natural —, mas é uma capacidade em declínio. O Media Lab do MIT é categórico ao afirmar que não há «um único sinal revelador» e, quando investigadores testaram ferramentas de deteção contra falsificações do mundo real em 2025, a sua precisão caiu acentuadamente — mesmo enquanto a tecnologia continua a melhorar. Detetar erros ainda é útil, mas já não basta.

Por isso o objetivo desloca-se — de detetar a falsificação para verificar a fonte. Esse é um hábito que uma família pode construir, e não depende de um olhar apurado.

Nada disto exige que o seu adolescente tenha medo do telemóvel, e nada disto exige que se torne um analista forense. Exige uma regra partilhada — verificar antes de reagir — e um pai suficientemente calmo para a dar como exemplo. O resto deste guia avança risco a risco: como são feitas e respondidas as imagens íntimas falsas, como funciona a sextortion por IA, como as burlas de clonagem de voz chegam à sua família e como a IA está a reconstruir o catfishing. Compreenda a maquinaria uma vez, e cada um destes deixa de ser um mistério e passa a ser um problema com um plano.

Perguntas frequentes