Cosa sono i deepfake? Come l'IA falsifica foto, video e voci

Cos'è davvero un deepfake

La maggior parte dei genitori incontra per la prima volta questa parola in un titolo di giornale — una celebrità che non ha mai detto quella cosa, un politico che non è mai stato lì, il volto di un compagno di classe su un corpo che non è mai stato il suo. I titoli sono reali, ma lasciano un vuoto: una definizione pratica che un genitore possa davvero usare. Senza di essa, ogni foto strana sembra o innocua o sinistra, e nessuna delle due ipotesi aiuta Suo figlio adolescente.

Un deepfake (scritto anche in due parole, deep fake) è un contenuto sintetico — un'immagine, un video o una clip audio — creato o alterato dall'intelligenza artificiale in modo da mostrare in maniera convincente una persona reale mentre fa o dice qualcosa che non ha mai fatto. L'Encyclopædia Britannica lo definisce come un contenuto sintetico «che ritrae qualcosa che non esiste nella realtà o eventi che non sono mai accaduti». La parola stessa è un'unione di deep learning, la tecnica di IA che lo alimenta, e fake — ed è più giovane degli adolescenti che ormai colpisce.

Il termine è emerso alla fine del 2017, quando un utente di Reddit creò un subreddit chiamato «r/deepfakes» e iniziò a pubblicarvi video con volti sostituiti, dando il nome all'intera categoria. In meno di un decennio è passato da un angolo oscuro di internet a un problema dei corridoi di scuola. Quella velocità conta: la tecnologia con cui Suo figlio convive è più recente della maggior parte dei consigli che i genitori hanno sentito al riguardo.

Un'unica etichetta ormai si estende su tre cose diverse — un volto sovrapposto a un altro corpo, una voce clonata da una breve registrazione e, al suo confine più sfumato, un volto che non appartiene a nessuno. In senso stretto, un deepfake imita o altera una persona reale; un volto del tutto inventato è un parente prossimo — un contenuto sintetico usato allo stesso modo, in profili falsi e truffe. Ciò che li unisce non è come vengono costruiti, ma ciò che ottengono: un risultato abbastanza autentico da essere creduto. La guida pillar ai rischi dell'IA per gli adolescenti tratta ciascuno come una versione amplificata di un pericolo più antico; questa guida resta sul deepfake in sé — che cos'è, come viene creato e perché di colpo è ovunque.

Come vengono davvero creati i deepfake

Non serve sapere come costruirne uno per proteggere Suo figlio da esso — e questa guida non spiegherà come farlo. Ma un genitore che comprende i meccanismi generali è molto più difficile da ingannare, e molto più capace di spiegare il rischio a un adolescente scettico. Al centro di quasi ogni deepfake c'è un'idea semplice: mostri a un modello di IA un numero sufficiente di esempi reali di un volto o di una voce, e imparerà a produrne di nuovi e convincenti.

Il metodo più noto è la rete generativa avversaria, o GAN — uno spartiacque nella tecnologia quando è arrivata, a metà degli anni 2010. Due modelli di IA vengono messi l'uno contro l'altro in quello che equivale a un gioco tra falsario e ispettore, e il falsario continua a migliorare finché l'ispettore non riesce più a coglierlo in fallo.

I deepfake sono spesso prodotti usando reti generative avversarie (GAN), in cui due diversi modelli di deep learning lavorano insieme in un gioco a indovinare. Uno dei modelli crea la migliore replica possibile di un'immagine o di un video reale e l'altro rileva se la replica è falsa e, se individua un errore, segnala le differenze tra essa e l'originale.

— Encyclopædia Britannica, «Deepfake»

I sistemi più recenti usano i modelli di diffusione — ormai comuni negli strumenti per immagini e video — che partono da un rumore casuale e lo affinano, passo dopo passo, in un'immagine corrispondente a una descrizione. Il video con sostituzione del volto tende a basarsi su uno strumento ancora diverso — una rete che il MIT Sloan descrive come un «autoencoder variazionale», addestrato a comprimere un volto in uno schema compatto e a ricostruirlo sulla testa di un'altra persona. Una voce viene clonata fornendo a un modello registrazioni reali finché non riesce a imitare il modo in cui una persona parla. I dettagli differiscono; il principio no. Mostri alla macchina abbastanza di qualcosa di reale, e fabbricherà qualcosa di falso.

Il dettaglio tecnico si muove più in fretta di quanto qualsiasi genitore possa seguire — e non c'è bisogno di seguirlo. Le stesse famiglie di modelli che alimentano gli innocui filtri fotografici e gli assistenti per i compiti alimentano anche l'abuso, ed è proprio per questo che la tecnologia è così difficile da isolare, e per cui la domanda utile non è «come faccio a vietarla» ma «come verifichiamo ciò che stiamo guardando».

Le tre forme che incontrerà davvero

Per un genitore, la classificazione utile non è tecnica. Riguarda ciò che arriva — sul telefono di Suo figlio, nella Sua segreteria telefonica o in una chat di gruppo. Tre forme coprono quasi tutto.

I confini si confondono: un profilo falso può abbinare un volto sintetico a una voce clonata e a una clip con volto sostituito offerta come «prova». Quest'ultima forma è il modo in cui l'IA ricostruisce il classico catfish — il pillar tratta in dettaglio i profili catfish costruiti con l'IA. Ma dare un nome alla forma è il primo passo per giudicare la cosa specifica che è stata inviata a Suo figlio.

Perché di colpo è diventato economico, veloce e facile

Per gran parte della storia dell'informatica, falsificare un volto in modo convincente richiedeva uno studio, un budget e uno specialista. Due cose hanno cambiato la situazione. La prima è stato il salto tecnico già descritto — i metodi generativi arrivati a metà degli anni 2010. La seconda è stata la distribuzione: strumenti e servizi gratuiti e scaricabili che hanno costantemente abbassato la barriera per i non esperti. Ciò che un tempo richiedeva uno studio e uno specialista è diventato molto più accessibile.

Il cambiamento che conta di più per un genitore non è la velocità ma la materia prima. Un deepfake non ha più bisogno, per cominciare, di un'immagine privata o compromettente. Gli servono solo foto ordinarie di un volto — del tipo che già si trova in un annuario, nell'elenco di una squadra, nel post di un amico, in un profilo pubblico o in un vecchio account. L'FBI avverte che i malintenzionati prendono «foto o video — di solito catturati dall'account social di una persona, dalla rete aperta o richiesti alla vittima» — e li trasformano in qualcosa che la persona non ha mai fatto. La materia prima è l'ordinaria impronta che ogni adolescente lascia online — ed è per questo che un'impronta più piccola e più riservata è una delle poche protezioni pratiche, non perché pubblicare sia mai stato un errore dell'adolescente.

I numeri seguono la diffusione. Il primo vero censimento dei deepfake, il rapporto Deeptrace del 2019, contava 14.678 video deepfake online — quasi il doppio rispetto a sette mesi prima, e il 96% di essi era pornografia non consensuale. Entro il 2023 l'azienda di verifica dell'identità Sumsub segnalava un aumento di dieci volte nei deepfake rilevati in un solo anno. I due conteggi misurano cose diverse — video online contro falsi colti durante le verifiche d'identità — ma indicano la stessa direzione: in pochi anni, i contenuti sintetici sono passati da curiosità a problema di massa.

Dove gli adolescenti incontrano davvero i deepfake

La maggior parte dei contenuti alterati dall'IA che Suo figlio vede è innocua — filtri per il volto, doppiaggi scherzosi, effetti di ringiovanimento — e trattarli tutti come una minaccia Le costerà soltanto credibilità. Il danno comincia quando le stesse tecniche dei contenuti sintetici vengono usate per impersonare, umiliare, truffare o costringere, e raggiunge gli adolescenti attraverso una manciata di porte riconoscibili.

• Telefonate e messaggi truffa Una voce clonata alimenta la chiamata dell'«emergenza familiare». L'FTC avverte che a un truffatore basta soltanto «una breve clip audio … che potrebbe ottenere da contenuti pubblicati online». La voce dall'altro capo può essere quella di un parente — o di Suo figlio, clonata per ingannarLa.
• False immagini intime Foto ordinarie trasformate in falsi espliciti. Questo ha colpito scuole reali: alla fine del 2023 uno studente di una scuola superiore del New Jersey è stato accusato di aver usato l'IA per falsificare immagini di nudo di compagne di classe — una delle ragazze ha detto di essere tra le oltre trenta prese di mira. La ragazza in una foto del genere non ha fatto nulla di male; chi l'ha creata sì. Il pillar tratta per intero i nudi deepfake e le app «nudify».
• Sextortion Un ricatto che non ha più bisogno di una foto reale. L'FBI riferisce che le vittime, minori compresi, spesso «non sono consapevoli che le loro immagini sono state copiate, manipolate e diffuse finché qualcun altro non lo fa loro notare». Veda la sextortion guidata dall'IA.
• Bullismo False clip, false «prove» e immagini umilianti fatte girare in un'intera annata scolastica — molestie tra pari rese più convincenti da «prove» sintetiche. Rientra in pieno nel cyberbullismo.
• Persone false Volti e identità sintetiche dietro i profili catfish, che fanno sembrare uno sconosciuto un adolescente credibile. La nostra guida per verificare se una persona online è reale vale ancora — semplicemente ora deve lavorare di più.

La portata è reale ma facile da fraintendere. Nel 2024 il National Center for Missing & Exploited Children ha registrato un aumento del 1.325% delle segnalazioni che coinvolgono l'IA generativa, e nel corso del 2024 e del 2025 ha identificato più di 275 vittime dirette di materiale pedopornografico generato dall'IA — spesso abusate da qualcuno già presente nella vita del bambino. I totali grezzi del 2025 appaiono ancora molto più ampi, ma l'NCMEC avverte che gran parte di quel volume proveniva da un'unica fonte di segnalazione e mancava di dettagli sufficienti per intervenire. Sono casi difficili da leggere. Sono anche superabili, e la risposta è ben consolidata.

Perché questo conta, anche se Suo figlio non è mai preso di mira

C'è una conseguenza più silenziosa che tocca ogni adolescente, preso di mira o no. Per generazioni, «l'ho visto con i miei occhi» chiudeva una discussione. I deepfake mettono fine a quell'epoca. Quando qualsiasi immagine può essere falsa, accadono due cose insieme: le cose false diventano più facili da credere e — cosa più corrosiva — le cose vere diventano più facili da negare.

Paradossalmente, i bugiardi che vogliono sottrarsi alla responsabilità delle loro reali parole e azioni diventeranno più credibili man mano che il pubblico sarà più informato sulle minacce poste dai deep fake.

— Bobby Chesney & Danielle Citron, «Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security», California Law Review (2019)

Gli studiosi del diritto lo chiamano il dividendo del bugiardo: una volta che tutti sanno che i falsi esistono, un video reale può essere liquidato come «probabilmente IA». Per un adolescente questo può significare un autentico screenshot di bullismo respinto come falsificato, o delle vere scuse negate. Il danno dei deepfake non sono solo i falsi in sé — è il dubbio che gettano su tutto ciò che è reale. Può leggere l'argomentazione completa sulla California Law Review.

L'istinto è imparare a riconoscere i falsi. Vale la pena conoscere i segnali classici — mani strane, denti anomali, illuminazione incoerente, ammiccamenti innaturali — ma è un'abilità in declino. Il Media Lab del MIT è netto nell'affermare che non esiste «un singolo segnale rivelatore», e quando nel 2025 i ricercatori hanno messo alla prova gli strumenti di rilevamento contro falsi del mondo reale, la loro accuratezza è crollata bruscamente — anche mentre la tecnologia continua a migliorare. Individuare gli errori è ancora utile, ma non basta più.

Così l'obiettivo si sposta — dal riconoscere il falso al verificare la fonte. È un'abitudine che una famiglia può costruire, e non dipende da un occhio acuto.

Nulla di tutto questo richiede che Suo figlio abbia paura del proprio telefono, e nulla richiede che Lei diventi un analista forense. Richiede una regola condivisa — verificare prima di reagire — e un genitore abbastanza calmo da darne l'esempio. Il resto di questa guida procede rischio per rischio: come vengono create e affrontate le false immagini intime, come funziona la sextortion con l'IA, come le truffe con clonazione vocale raggiungono la Sua famiglia e come l'IA sta ricostruendo il catfish. Comprenda il meccanismo una volta, e ciascuno di questi smette di essere un mistero e diventa un problema con un piano.

Domande frequenti