O Que São Deepfakes? Como a IA Falsifica Fotos, Vídeos e Vozes

O que um deepfake realmente é

A maioria dos pais encontra a palavra pela primeira vez em uma manchete — uma celebridade que nunca disse aquilo, um político que nunca esteve ali, o rosto de um colega de turma em um corpo que nunca foi o dele. As manchetes são reais, mas deixam uma lacuna: uma definição prática que um pai possa de fato usar. Sem ela, toda foto estranha parece inofensiva ou sinistra, e nenhuma das duas suposições ajuda o seu adolescente.

Um deepfake (também escrito como duas palavras, deep fake) é uma peça de mídia sintética — uma imagem, um vídeo ou um trecho de áudio — criada ou alterada por inteligência artificial de modo que mostre de forma convincente uma pessoa real fazendo ou dizendo algo que ela nunca fez. A Encyclopædia Britannica a define como mídia sintética “que retrata algo que não existe na realidade ou eventos que nunca ocorreram”. A própria palavra é uma fusão de deep learning, a técnica de IA que a alimenta, e fake — e a palavra é mais nova do que os adolescentes que ela agora afeta.

O termo surgiu no fim de 2017, quando um usuário do Reddit criou um subreddit chamado “r/deepfakes” e começou a publicar vídeos com troca de rosto ali, dando nome a toda a categoria. Em menos de uma década, ele passou de um canto obscuro da internet a um problema dos corredores da escola. Essa velocidade importa: a tecnologia com que o seu adolescente convive é mais nova do que a maior parte dos conselhos que os pais ouviram a respeito dela.

Um único rótulo agora se estende por três coisas diferentes — um rosto sobreposto a outro corpo, uma voz clonada a partir de uma gravação curta e, em sua borda mais ampla, um rosto que não pertence a ninguém. A rigor, um deepfake imita ou altera uma pessoa real; um rosto totalmente inventado é um parente próximo — mídia sintética usada da mesma maneira, em perfis falsos e golpes. O que os une não é como são construídos, mas o que alcançam: um resultado autêntico o suficiente para ser acreditado. O guia-pilar sobre riscos da IA para adolescentes trata cada um como uma versão amplificada de um perigo mais antigo; este guia se atém ao próprio deepfake — o que é, como é feito e por que está de repente em toda parte.

Como os deepfakes são feitos de verdade

Você não precisa saber como construir um para proteger o seu adolescente dele — e este guia não vai explicar como. Mas um pai que compreende a mecânica geral é muito mais difícil de enganar e muito melhor em explicar o risco a um adolescente cético. No centro de quase todo deepfake há uma ideia simples: mostre a um modelo de IA exemplos reais suficientes de um rosto ou de uma voz, e ele aprende a produzir novos exemplos convincentes.

O método mais conhecido é a rede generativa adversarial, ou GAN — um ponto de virada na tecnologia quando surgiu em meados dos anos 2010. Dois modelos de IA são postos um contra o outro no que equivale a um jogo de falsificador e inspetor, e o falsificador continua melhorando até que o inspetor não consiga mais flagrá-lo.

Os deepfakes costumam ser produzidos usando redes generativas adversariais (GANs), nas quais dois modelos diferentes de aprendizado profundo de IA trabalham juntos em um jogo de adivinhação. Um dos modelos cria a melhor réplica possível de uma imagem ou vídeo real e o outro detecta se a réplica é falsa e, se detectar um erro, relata as diferenças entre ela e o original.

— Encyclopædia Britannica, “Deepfake”

Sistemas mais recentes usam modelos de difusão — agora comuns em ferramentas de imagem e vídeo —, que partem de ruído aleatório e o refinam, passo a passo, em uma imagem que corresponde a uma descrição. O vídeo com troca de rosto tende a depender de outra ferramenta diferente — uma rede que o MIT Sloan descreve como um “autocodificador variacional”, treinado para comprimir um rosto em um padrão compacto e reconstruí-lo na cabeça de outra pessoa. Uma voz é clonada alimentando um modelo com gravações reais até que ele consiga imitar como uma pessoa fala. Os detalhes diferem; o princípio não. Mostre à máquina o suficiente de algo real, e ela fabricará algo falso.

O detalhe técnico avança mais rápido do que qualquer pai consegue acompanhar — e não precisa ser acompanhado. As mesmas famílias de modelos que alimentam filtros de fotos inofensivos e ajudantes de lição de casa também alimentam o abuso, que é exatamente por que a tecnologia é tão difícil de isolar, e por que a pergunta útil não é “como eu proíbo isso” e sim “como verificamos o que estamos vendo”.

As três formas que você vai encontrar de verdade

Para um pai, a taxonomia útil não é técnica. É sobre o que chega — no celular do seu adolescente, na sua própria caixa de mensagens de voz ou em uma conversa de grupo. Três formas cobrem quase tudo.

As fronteiras se confundem: um perfil falso pode combinar um rosto sintético com uma voz clonada e um trecho com troca de rosto oferecido como “prova”. Essa última forma é como a IA reconstrói o clássico catfishing — o pilar trata em detalhe das personas de catfishing criadas por IA. Mas nomear a forma é o primeiro passo para julgar a coisa específica que enviaram ao seu adolescente.

Por que de repente ficou barato, rápido e fácil

Durante a maior parte da história da computação, falsificar um rosto de forma convincente exigia um estúdio, um orçamento e um especialista. Duas coisas mudaram isso. A primeira foi o salto técnico já descrito — os métodos generativos que surgiram em meados dos anos 2010. A segunda foi a distribuição: ferramentas e serviços gratuitos, baixáveis, que reduziram de forma constante a barreira para quem não é especialista. O que antes exigia um estúdio e um especialista tornou-se muito mais acessível.

A mudança que mais importa para um pai não é a velocidade, e sim a matéria-prima. Um deepfake já não precisa de uma imagem privada ou comprometedora para começar. Ele precisa apenas de fotos comuns de um rosto — do tipo que já está num anuário, na lista de um time, na publicação de um amigo, num perfil público ou numa conta antiga. O FBI alerta que agentes mal-intencionados pegam “fotos ou vídeos — normalmente capturados da conta de rede social de uma pessoa, da internet aberta, ou solicitados à vítima” — e os transformam em algo que a pessoa nunca fez. A matéria-prima é a pegada comum que qualquer adolescente deixa on-line — e é por isso que uma pegada menor e mais privada é uma das poucas proteções práticas, não porque publicar tenha alguma vez sido o erro do adolescente.

Os números acompanham essa expansão. O primeiro censo real de deepfakes, o relatório de 2019 da Deeptrace, contou 14.678 vídeos deepfake on-line — quase o dobro do número de sete meses antes, e 96% deles pornografia não consensual. Em 2023, a empresa de verificação de identidade Sumsub relatou um aumento de dez vezes nos deepfakes que detectou em um único ano. As duas contagens medem coisas diferentes — vídeos on-line versus falsificações flagradas em verificações de identidade —, mas apontam na mesma direção: em apenas alguns anos, a mídia sintética passou de uma curiosidade a um problema em massa.

Onde os adolescentes realmente se deparam com deepfakes

A maior parte da mídia alterada por IA que o seu adolescente vê é inofensiva — filtros de rosto, dublagens de brincadeira, efeitos de rejuvenescimento — e tratar tudo isso como uma ameaça só vai lhe custar credibilidade. O dano começa quando as mesmas técnicas de mídia sintética são usadas para se passar por alguém, humilhar, enganar ou coagir, e ele alcança os adolescentes por um punhado de portas reconhecíveis.

• Ligações e mensagens de golpe Uma voz clonada alimenta a ligação de “emergência familiar”. A FTC alerta que um fraudador precisa apenas de “um trecho curto de áudio … que ele poderia obter de conteúdo publicado on-line”. A voz na linha pode ser a de um parente — ou a do seu adolescente, clonada para enganar você.
• Imagens íntimas falsas Fotos comuns transformadas em falsificações explícitas. Isso já atingiu escolas reais: no fim de 2023, um aluno de uma escola de ensino médio de Nova Jersey foi acusado de usar IA para falsificar imagens de nudez de colegas — uma das meninas disse estar entre mais de trinta alvos. A criança em qualquer foto desse tipo não fez nada de errado; quem a fez é que fez. O pilar trata por completo dos nudes deepfake e dos aplicativos de “nudify”.
• Sextortion Chantagem que já não precisa de uma foto real. O FBI relata que as vítimas, incluindo menores, muitas vezes estão “sem saber que suas imagens foram copiadas, manipuladas e divulgadas até que isso lhes fosse trazido à atenção por outra pessoa”. Veja sextortion movida por IA.
• Bullying Trechos falsos, “provas” falsas e imagens humilhantes passadas por uma turma inteira — assédio entre colegas tornado mais convincente por “provas” sintéticas. Isso se encaixa perfeitamente no cyberbullying.
• Pessoas falsas Rostos e personas sintéticas por trás de perfis de catfishing, fazendo um desconhecido parecer um adolescente crível. Nosso guia para verificar se uma pessoa on-line é real ainda se aplica — só que agora ele tem de trabalhar mais.

A escala é real, mas facilmente mal interpretada. Em 2024, o National Center for Missing & Exploited Children registrou um aumento de 1.325% em denúncias envolvendo IA generativa e, ao longo de 2024 e 2025, identificou mais de 275 vítimas diretas de material de abuso sexual infantil gerado por IA — muitas vezes abusadas por alguém já presente na vida da criança. Os totais brutos de 2025 parecem bem maiores ainda, mas o NCMEC adverte que a maior parte desse volume veio de uma única fonte de denúncia e carecia de detalhes suficientes para se agir. Esses casos são difíceis de ler. Eles também são superáveis, e a resposta está bem estabelecida.

Por que isso importa, mesmo que o seu adolescente nunca seja alvo

Há uma consequência mais silenciosa que toca todo adolescente, alvo ou não. Por gerações, “eu vi com meus próprios olhos” punha fim a uma discussão. Os deepfakes encerram essa era. Quando qualquer imagem pode ser falsa, duas coisas acontecem ao mesmo tempo: coisas falsas ficam mais fáceis de acreditar e — de modo mais corrosivo — coisas verdadeiras ficam mais fáceis de negar.

Ironicamente, mentirosos que buscam se esquivar da responsabilidade por suas palavras e ações reais se tornarão mais críveis à medida que o público for ficando mais bem informado sobre as ameaças representadas pelos deep fakes.

— Bobby Chesney & Danielle Citron, “Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security”, California Law Review (2019)

Os juristas chamam isso de dividendo do mentiroso: uma vez que todos sabem que as falsificações existem, um vídeo real pode ser descartado como “provavelmente IA”. Para um adolescente, isso pode significar uma captura de tela genuína de bullying descartada como forjada, ou um pedido de desculpas real negado. O dano dos deepfakes não está só nas falsificações em si — está na dúvida que elas lançam sobre tudo o que é real. Você pode ler o argumento completo na California Law Review.

O instinto é aprender a identificar as falsificações. Vale a pena conhecer os sinais clássicos — mãos estranhas, dentes esquisitos, iluminação incompatível, piscadas pouco naturais —, mas é uma habilidade em declínio. O Media Lab do MIT é direto ao dizer que “não há um único sinal revelador” e, quando pesquisadores testaram ferramentas de detecção contra falsificações do mundo real em 2025, a precisão delas caiu acentuadamente — mesmo enquanto a tecnologia continua melhorando. Identificar erros ainda é útil, mas já não basta.

Então o objetivo muda — de identificar a falsificação para verificar a fonte. Esse é um hábito que uma família pode construir, e ele não depende de um olho aguçado.

Nada disso exige que o seu adolescente tema o próprio celular, e nada disso exige que você se torne um analista forense. Exige uma regra compartilhada — verifique antes de reagir — e um pai calmo o suficiente para dar o exemplo. O resto deste guia segue risco por risco: como imagens íntimas falsas são feitas e enfrentadas, como funciona a sextortion por IA, como os golpes de clonagem de voz alcançam a sua família e como a IA está reconstruindo o catfishing. Entenda a engrenagem uma vez, e cada um desses deixa de ser um mistério e se torna um problema com um plano.

Perguntas frequentes