Rischi dell'IA per gli adolescenti: deepfake, compagni virtuali e manipolazione sintetica

Cosa sono i deepfake, e quanto sono diventati facili

Per gran parte dell'ultimo decennio, un genitore preoccupato per il proprio figlio adolescente online disponeva di un modello mentale che in linea di massima reggeva: uno sconosciuto poteva mentire su chi fosse, una foto reale poteva essere condivisa senza consenso, una conversazione reale poteva essere distorta. Le minacce erano serie, ma poggiavano su materiale reale. Ciò che l'intelligenza artificiale ha cambiato non è l'elenco dei pericoli. È la disponibilità della materia prima. Le minacce non hanno più bisogno di nulla di reale da cui partire.

Un deepfake è un contenuto sintetico — un'immagine, un video o una traccia audio — creato o alterato dall'intelligenza artificiale in modo che mostri in maniera convincente una persona reale mentre fa o dice qualcosa che non ha mai fatto né detto. Il termine copre un volto sovrapposto a un altro corpo, una voce clonata da una breve registrazione e un volto che non appartiene a nessuno. Ciò che li accomuna è che il risultato appare abbastanza autentico da essere creduto, e che produrlo oggi richiede un'app per consumatori e qualche minuto, anziché uno studio e un esperto.

Due fatti contano per un genitore. Il primo è il costo: produrre contenuti sintetici convincenti è passato da un compito specialistico a un'operazione economica, rapida, a portata di clic. Il secondo è il materiale di partenza. Un deepfake non ha bisogno di una foto privata o compromettente per iniziare. Gli servono solo immagini ordinarie di un volto — esattamente le foto che quasi ogni adolescente ha già pubblicato, o che compaiono in un annuario scolastico, in un elenco sportivo o nel feed di un amico.

Il resto di questa guida tratta ogni minaccia legata all'IA nello stesso modo: non come un pericolo nuovo e ignoto, ma come un rischio più antico che un genitore può già capire a metà, ora privato dell'attrito che un tempo lo rallentava. Si comprenda cosa ciascuna minaccia amplifica, e smette di essere misteriosa.

Deepfake nudi e app «nudify»

La più difficile di queste minacce di cui parlare è anche una delle più comuni, quindi vale la pena essere chiari. Una categoria crescente di strumenti di IA — spesso commercializzati come app «nudify» — esiste per prendere una fotografia ordinaria e vestita di una persona reale e generare un'immagine di nudo falsa di lei. Quando la persona ritratta è un adolescente, il risultato è un'immagine sessuale di un minore generata dall'IA, e crearla o condividerla è un grave reato in un numero crescente di giurisdizioni, qualunque cosa lasci intendere il marketing dell'app.

È importante capire chi di solito lo fa. La copertura mediatica può far sembrare il fenomeno opera di lontane reti criminali, e a volte lo è. Ma una larga quota di episodi di deepfake nudi che coinvolgono adolescenti è creata da altri adolescenti — un compagno di classe, un ex, qualcuno con un rancore — usando un'app trovata nel giro di un pomeriggio. L'abuso non arriva da uno sconosciuto in ombra ma dal mondo sociale in cui suo figlio già vive. È questo che lo fa propagare rapidamente attraverso una scuola, ed è questo che lo rende così doloroso.

Perché vengono presi di mira gli adolescenti? In parte perché la materia prima è così disponibile: gli adolescenti pubblicano più immagini di sé di qualunque altro gruppo, e basta una sola foto nitida del volto. In parte perché il costo sociale colpisce con maggiore violenza a quell'età, quando reputazione e posizione tra i pari sembrano totali. E il bersaglio non è distribuito in modo uniforme. Le ragazze sono in modo schiacciante le soggette degli abusi tramite deepfake nudi, e il danno interagisce con gli schemi di vulnerabilità a cui questa serie torna in continuazione — un adolescente socialmente isolato o neurodivergente ha meno cuscinetto di sostegno per assorbire lo shock e meno persone fidate a cui poter raccontare.

Un tipico episodio scolastico segue un arco tetro. Un'immagine viene generata e condivisa in una chat di gruppo. Si diffonde più rapidamente di quanto qualunque adulto riesca a scoprirla. L'adolescente bersaglio spesso lo viene a sapere per ultima, dalle reazioni degli altri, e l'istinto di un ragazzo spaventato è il nascondimento — esattamente l'istinto che permette all'abuso di proseguire indisturbato. Quando un genitore o un insegnante viene informato, l'immagine può essere già arrivata ben oltre le persone che l'hanno vista per prime.

Lo schema è documentato su larga scala. L'Internet Watch Foundation del Regno Unito, che rimuove dal web materiale di abuso sessuale su minori, ha riferito di un rapido aumento del CSAM generato dall'IA in circolazione online dal 2023, comprese immagini sintetiche realistiche costruite a partire da foto pubbliche ordinarie di bambini reali e identificabili. Il National Center for Missing & Exploited Children statunitense ha analogamente segnalato un netto aumento anno su anno delle segnalazioni alla CyberTipline riguardanti materiale prodotto con IA generativa, da quando questa categoria ha iniziato a essere tracciata.

Ecco il messaggio centrale da dare a suo figlio adolescente prima che accada qualcosa, con calma e in anticipo: se di te viene mai creata un'immagine esplicita falsa, non è colpa tua e non sei nei guai. Il reato appartiene interamente alla persona che l'ha creata e diffusa. L'immagine è fabbricata; non documenta nulla che suo figlio abbia fatto. La vergogna è il motore di questo abuso — tiene zitte le vittime e fa viaggiare l'immagine — e un genitore che dissolve la vergogna in anticipo ha compiuto la cosa più protettiva a disposizione.

Il terreno legale si è spostato a favore della vittima. Negli Stati Uniti, il TAKE IT DOWN Act federale, firmato in legge il 19 maggio 2025, qualifica come reato la pubblicazione consapevole di immagini intime non consensuali — comprese esplicitamente quelle generate da IA che rientrano nei requisiti — e impone alle piattaforme coperte di agire su una richiesta di rimozione valida entro 48 ore; la disposizione sull'adempimento da parte delle piattaforme è entrata in vigore un anno dopo la promulgazione. La legge copre certe piattaforme e certi tipi di immagini, quindi la rimozione non è automatica per ogni immagine su ogni sito, ma un genitore ora dispone di un canale federale oltre a quelli statali e di piattaforma. Un numero crescente di Stati americani ha inoltre approvato leggi proprie che affrontano specificamente i deepfake sessualmente espliciti di minori.

Altre giurisdizioni si sono mosse nella stessa direzione. L'Online Safety Act del Regno Unito del 2023 qualifica come reato la condivisione di immagini intime non consensuali, compresi i deepfake; l'eSafety Commissioner australiano dispone di poteri normativi per ordinare la rimozione rapida di immagini intime pubblicate senza consenso; e diverse province canadesi hanno aggiornato le proprie leggi sull'immagine intima per coprire materiale alterato digitalmente o generato dall'IA. La conclusione pratica: non è una zona grigia che suo figlio debba semplicemente sopportare. Esistono canali di segnalazione e strumenti di rimozione, illustrati nella sezione finale di questa guida.

Sextortion alimentata dall'IA

La sextortion finanziaria era già uno dei crimini più aggressivi rivolti ai minori prima che l'IA entrasse in scena. La sextortion finanziaria è uno schema in cui un aggressore ottiene un'immagine esplicita di un giovane e poi minaccia di inviarla alla famiglia, agli amici e ai follower dell'adolescente se non viene pagato. Si muove rapidamente ed è brutale: un contatto lusinghiero, una richiesta di immagine presentata come un normale scambio, e poi, in pochi minuti, una richiesta di denaro. L'FBI e i suoi partner hanno emesso ripetuti allarmi pubblici su un netto aumento di questo reato, che colpisce in modo sproporzionato gli adolescenti maschi.

L'FBI e i suoi partner hanno avvertito di un forte incremento della sextortion finanziaria che prende di mira minori — un reato in cui i giovani vengono costretti tramite immagini esplicite e poi estorti per denaro — e hanno esortato le famiglie a segnalare anziché pagare.

— FBI, National Public Safety Alert on Financial Sextortion Schemes

L'entità citata in quell'allarme non è astratta. L'FBI ha riferito di aver ricevuto oltre 7.000 segnalazioni di sextortion finanziaria online su minori, collegate ad almeno 3.000 vittime identificate — soprattutto adolescenti maschi — e più di una dozzina di suicidi tra i minori presi di mira. Successivi avvisi dell'FBI e dei suoi partner hanno avvertito che i numeri hanno continuato a salire.

Ciò che l'IA cambia è il primo passaggio. La sextortion tradizionale aveva bisogno di un'immagine esplicita reale, il che significava che l'aggressore doveva manipolare l'adolescente affinché ne producesse e inviasse una. Quel passaggio richiedeva tempo, e dava a un adolescente attento un punto in cui rifiutare. La sextortion con IA lo elimina. Un aggressore può ora fabbricare un'immagine esplicita con uno strumento di deepfake, usando nient'altro che le foto ordinarie che un adolescente ha già pubblicato, e poi formulare la minaccia identica — «pagami, o tutti quelli che conosci vedranno questa» — senza che l'adolescente abbia mai inviato nulla.

È per questo che la più comune rassicurazione adolescente ha smesso di funzionare. «Non possono ricattarmi, non ho mai inviato niente di simile» un tempo era largamente vero. Non è più una difesa, perché l'aggressore non ha bisogno che l'adolescente abbia inviato nulla. Per un quindicenne spaventato che fissa una convincente contraffazione del proprio volto, la distinzione tra un'immagine reale e una sintetica registra appena. La minaccia appare totale, il panico è autentico, e il panico è esattamente ciò di cui lo schema si nutre.

La risposta, per fortuna, non cambia affatto. Che l'immagine sia reale o fabbricata, la guida è identica, e vale la pena dirla a suo figlio in anticipo perché sia già nella sua testa se una minaccia dovesse mai arrivare. Non pagare — il pagamento marca l'adolescente come bersaglio pagante e attira altre richieste, non meno. Non inviare nient'altro. Smettere di rispondere. Conservare tutto: screenshot dell'immagine, dell'account, del nome utente, dei messaggi, delle richieste di pagamento. Poi rivolgersi a un adulto fidato e segnalare. Il potere dell'aggressore dipende interamente dal fatto che la vittima si creda sola e che la sottomissione sia l'unica via d'uscita. Né l'una né l'altra cosa è vera. Il fatto che l'immagine sia falsa, dove lo sia, può anche aiutare — ma persino quando è reale, un adolescente che segnala non è nei guai e non è oltre ogni aiuto.

Un'altra cosa da rendere esplicita, perché la vergogna spinge gli adolescenti a nasconderla: il momento in cui un genitore deve essere più calmo è il momento in cui scopre che suo figlio ha già pagato, o ha già inviato un'immagine. Non è un fallimento e non è una ragione per la rabbia. È il momento più importante per agire — per fermare ulteriori contatti, conservare le prove e segnalare — e un adolescente che teme la punizione semplicemente smetterà di parlargliene.

Compagni virtuali e dipendenza emotiva

Le minacce da deepfake sopra descritte sono riconoscibilmente reati, con autori e vittime. Il prossimo rischio è di natura diversa, e più difficile da vedere per un genitore, perché nulla in esso assomiglia a un attacco. Un compagno virtuale è un chatbot progettato per fare le veci di un amico, di un confidente o di un partner sentimentale — per ricordarsi dell'utente, prendersi a cuore le sue cose, essere disponibile a ogni ora e, soprattutto, essere compiacente. Le app di questa categoria, tra cui Character.AI è una delle più note, sono usate da numeri molto grandi di adolescenti.

È utile partire dal perché un adolescente ne desidererebbe uno, senza liquidare la cosa. L'adolescenza è, per molti giovani, un tratto di intensa solitudine, di ansia sociale e del lavoro di capire chi si è. Un compagno che ascolta senza giudicare, non si annoia mai, non ha mai una brutta giornata e ti dice sempre che sei interessante offre qualcosa di reale che la vita ordinaria di un adolescente spesso non offre. Per un adolescente solo, non è un'attrattiva frivola. È un sollievo.

Ma si noti cosa sia il compagno. È love bombing — quel diluvio di affetto e validazione intensi e senza attriti che questa serie descrive come una fase della manipolazione umana — solo che automatizzato, instancabile e integrato nel prodotto. Un manipolatore umano deve recitare l'attenzione; un chatbot compagno è attenzione, senza sforzo e senza interruttore. Non è un verdetto su ogni conversazione con un chatbot: moltissimi adolescenti usano queste app in modo leggero, le trovano noiose e passano oltre. Il rischio comincia quando il bot diventa il principale sfogo emotivo di un adolescente — quando passa dall'essere un giocattolo all'essere una relazione che non chiede nulla, non costa nulla e non oppone mai resistenza.

Da lì derivano diversi danni specifici, e vale la pena nominarli separatamente.

• Sostituzione Le ore e l'energia emotiva che andrebbero in amicizie umane più faticose e più ricompensanti finiscono invece nel bot, che è più facile — e le abilità umane che solo la pratica costruisce silenziosamente si arrestano.
• Un modello distorto Una relazione con qualcosa progettato per essere sempre d'accordo insegna a un adolescente ad aspettarsi una devozione senza attriti, e fa sì che il normale disaccordo dell'amicizia reale appaia come un rifiuto.
• Cattivi consigli Un compagno non è un terapeuta. Interrogato su autolesionismo, su un disturbo alimentare o su una crisi, può rispondere in modi inutili o non sicuri — e un adolescente in difficoltà può fidarsi di lui proprio perché non reagisce mai con allarme.
• Isolamento dall'aiuto Un adolescente che racconta tutto a un bot può raccontare meno a un genitore, a un amico o a un clinico — e le persone che potrebbero davvero intervenire perdono la propria visione di come l'adolescente sta.

Gli adolescenti più inclini a formare un attaccamento profondo sono gli stessi che questa serie segnala in continuazione: i soli, i socialmente ansiosi e i neurodivergenti. Per un adolescente che trova la vita sociale umana faticosa e imprevedibile, un compagno infinitamente paziente e interamente prevedibile non è una piccola comodità — può diventare la relazione più confortevole che abbia. Quel conforto è esattamente il motivo per cui la dipendenza si approfondisce, e per cui questo gruppo merita la più attenta, la più delicata attenzione.

Si tratta di un'area di preoccupazione genuina e crescente, più che di scienza consolidata, e i genitori dovrebbero diffidare di entrambi gli estremi — il panico che tratta ogni conversazione con un chatbot come un danno, e la noncuranza che la tratta come un gioco innocuo. Le app di compagnia con IA hanno affrontato cause legali e controlli regolatori sulla sicurezza dei minori. Character.AI, in particolare, ha annunciato a fine 2025 che avrebbe rimosso la chat aperta per gli utenti sotto i 18 anni — una mossa che altri operatori potrebbero seguire, mentre il panorama normativo continua a cambiare rapidamente. La risposta misurata non è un verdetto sulla tecnologia. È attenzione. Sappia se suo figlio usa un'app di compagnia, resti curiosa anziché allarmata riguardo a ciò che essa sta facendo nella sua vita, e osservi la differenza tra un uso leggero e occasionale e un adolescente il cui centro emotivo si è silenziosamente spostato verso un bot.

Identità da catfish costruite con l'IA

Il catfishing — costruire una relazione dietro un'identità fabbricata — ha sempre dipeso da un manipolatore alle prese con un problema pratico: rendere convincente la persona finta. Per anni questo ha significato rubare le fotografie di una persona reale, il che creava una debolezza che un adolescente attento poteva sfruttare. Le foto rubate possono essere passate attraverso una ricerca per immagine inversa e ritrovate sull'account del loro vero proprietario. Il falso aveva una cucitura.

L'IA generativa chiude quella cucitura. Un manipolatore può ora creare un volto che non appartiene a nessuno — quindi una ricerca per immagine inversa non restituisce nulla, perché non esiste alcun originale. Può generare un insieme coerente di immagini di quella persona inventata in contesti e pose differenti, costruendo ciò che sembra una vita reale. Può produrre brevi clip video e, con la clonazione vocale, persino parlare con una voce abbinata. L'identità fabbricata che un tempo doveva essere presa in prestito può ora essere costruita su misura, senza alcuna vittima reale le cui foto possano tradirla.

Questo è l'esempio più chiaro del principio che attraversa tutta questa guida: l'IA non ha inventato un nuovo pericolo qui. Il catfishing esisteva, il grooming esisteva, la manipolazione di tipo sentimentale degli adolescenti esisteva. Ciò che l'IA ha rimosso è l'attrito. Ha reso il falso più convincente e il lavoro del manipolatore più facile, e ha mandato in pensione uno dei controlli di verifica che a genitori e adolescenti veniva insegnato a usare.

Poiché i controlli basati sull'aspetto si stanno indebolendo, quelli basati sul comportamento contano più che mai — e funzionano ancora, perché non dipendono dall'individuare il falso. Dipendono dall'osservare ciò che la persona fa. Il ritmo è uno: dichiarazioni d'amore, discorsi su anime gemelle e una prima richiesta di denaro o di immagini che arriva nel giro di pochi giorni non è il modo in cui si sviluppa l'intimità autentica tra adolescenti, per quanto reali appaiano le foto. La resistenza a una verifica dal vivo e non scriptata è un altro: una persona che non vuole girare la testa, muovere una mano davanti al volto o fare qualcosa di spontaneo in una videochiamata sta dicendo qualcosa, per quanto buone siano le immagini fisse. E la linea più netta di tutte è invariata — qualunque richiesta di denaro, carte regalo, criptovaluta, immagine esplicita o accesso agli account da parte di qualcuno conosciuto solo online dovrebbe porre fine alla relazione e dare inizio a una conversazione.

Poiché il catfishing è la porta attraverso cui inizia gran parte di questa manipolazione, ha una propria guida completa in questa serie: Catfishing e manipolazione online: una guida per genitori ripercorre le sei fasi della manipolazione, i segnali d'allarme e come verificare se una persona online è reale. L'IA rende l'identità più difficile da smascherare; non cambia l'arco di ciò a cui l'identità viene impiegata.

Truffe con clonazione vocale tramite IA

L'ultima minaccia di questa guida si estende oltre l'adolescente fino a tutta la famiglia, e vale la pena che un genitore la comprenda anche se il bersaglio è spesso un adulto. La clonazione vocale con IA prende un breve campione della voce registrata di una persona — in alcuni strumenti bastano pochi secondi — e produce una versione sintetica che può essere fatta dire qualunque cosa. Il campione è facile da ottenere. La voce di un adolescente è ovunque nei video pubblici che pubblica; quella di un genitore è nei suoi stessi social e nel messaggio di benvenuto della segreteria.

L'uso classico è la truffa dell'«emergenza familiare», una vecchia frode che l'IA ha reso molto più pericolosa. Un genitore o un nonno riceve una telefonata. La voce è inequivocabilmente quella del figlio o del nipote, ed è spaventata: c'è stato un incidente, un arresto, una crisi all'estero, e servono soldi con urgenza e in segreto. Lo shock emotivo è l'arma. È studiato per spingere chi ascolta oltre il momento del dubbio e nell'azione prima che possa pensare — e la voce clonata rimuove l'unico indizio che un tempo spezzava l'incantesimo, perché davvero suona come la persona che si ama.

La FTC ha avvertito che i truffatori possono usare l'IA per clonare la voce di un familiare da una breve clip audio, e poi piazzare una telefonata urgente chiedendo denaro — e raccomanda che, se si riceve una chiamata simile, si riagganci e si verifichi contattando la persona direttamente su un numero che si sa essere il suo.

— U.S. Federal Trade Commission, consumer alert on AI family-emergency scams

Due semplici difese reggono bene contro questo. La prima è una parola d'ordine familiare — una parola o una breve frase concordata in anticipo, mai scritta online e mai pubblicata, che un familiare autentico possa pronunciare al telefono in caso di emergenza. Un chiamante che non sa fornirla non passa, qualunque voce abbia. La seconda è un'abitudine: qualunque richiesta urgente e segreta di denaro, per quanto convincente sia la voce, è il segnale per riagganciare e richiamare la persona su un numero che già si conosce. Una vera emergenza sopravvive a un richiamo di due minuti. Una truffa no.

Segnali d'allarme attraverso le tre minacce

Le minacce dell'IA in questa guida si dividono, per un genitore, in due tipi di guai — e i segnali d'allarme sono diversi per ciascuno. Un tipo è una crisi improvvisa: un deepfake o una minaccia di sextortion che arriva e produce un disagio visibile. L'altro è una deriva lenta: una dipendenza da un compagno virtuale che si forma nel corso di mesi. Un genitore che osservi solo il dramma mancherà il secondo; un genitore che osservi solo il cambiamento graduale sarà impreparato al primo. I segnali sotto coprono entrambi. Come sempre, nessuna singola voce dimostra qualcosa — ciò che conta è un grappolo di esse che compaia insieme in una finestra ristretta. I due gruppi richiedono anche risposte differenti: i segnali di crisi improvvisa richiedono azione nella giornata; quelli di deriva lenta sono un invito a una conversazione pacata e a qualche settimana di osservazione dello schema.

Segnali di crisi improvvisa (un deepfake o una sextortion è appena arrivato)

• Un cambiamento improvviso e netto Un adolescente che diventa acutamente ansioso, ritirato o turbato nel giro di un giorno o due, spesso dopo del tempo sul telefono — la firma di una minaccia appena arrivata.
• Panico per immagini o reputazione Disagio focalizzato su ciò che gli altri hanno visto, su chi l'ha visto o su ciò che viene condiviso — anche se suo figlio non dirà cosa sia quel «ciò».
• Pressione sui soldi Richieste di denaro, contanti che spariscono, nuovi acquisti di carte regalo o attività insolite su app di pagamento o di criptovaluta — un forte indicatore che una richiesta da sextortion o da truffa è iniziata.

Segnali di deriva lenta (una relazione online nascosta o una dipendenza da compagno)

• Segretezza attorno a un'unica app o a un unico contatto Un telefono custodito più di prima, una conversazione cancellata ogni sera, oppure un nuovo account su un'app di compagnia o di messaggistica.
• Una relazione online che non diventa mai reale Un partner o un amico stretto conosciuto online che la famiglia non vede mai in una videochiamata spontanea, e che ha sempre un motivo per cui un controllo dal vivo, non scriptato, non possa avvenire.
• La vita emotiva che si sposta verso uno schermo Un adolescente che si confida meno con le persone e di più con un'app, ci perde il sonno, o diventa irritabile o turbato quando viene separato da essa — la lenta firma della dipendenza dal compagno.
• Ritiro dagli amici umani Un allontanamento dalle amicizie esistenti e dalle routine offline, specialmente in concomitanza con un uso intenso di un'unica app di IA.
• Diventare silenzioso Un adolescente in precedenza loquace che diventa, in modo fluido e uniforme, vuoto sulla parte online della propria vita — il silenzio, in un figlio che era solito raccontare la propria giornata, è un'informazione.

La risposta comincia dalla relazione, non dal dispositivo. Apra con il ragazzo — chieda come sta, cosa gli passa per la testa — anziché iniziare da ciò che ha notato su uno schermo. Se inizia dal dispositivo, insegna la lezione che ogni manipolatore vuole insegnata: che gli adulti sono una minaccia da gestire piuttosto che una risorsa da usare. Le due sezioni successive illustrano cosa fare una volta che una conversazione pacata è aperta.

Cosa possono fare i genitori

Le minacce di questa guida sono nuove, ma il lavoro protettivo è in larga parte familiare, e la maggior parte di esso non è tecnica. Poggia su tre cose: una relazione in cui un adolescente le racconterà davvero quando qualcosa va storto, un piccolo insieme di conversazioni tenute prima di una crisi anziché dopo, e qualche impostazione e abitudine pratica. Prese insieme contano molto più di qualsiasi singolo strumento.

Tenga le conversazioni in anticipo. La frase più potente in questa guida è una che si pronuncia in anticipo: se mai apparirà un'immagine falsa di te, o qualcuno ti minaccerà con una, non sarai nei guai e lo affronteremo insieme. Un adolescente che già lo sa è molto più propenso a venire da lei nella prima ora, quando l'aiuto è più facile, anziché nascondere il problema finché non sia cresciuto. Parli dei deepfake in modo piano, prima che un episodio renda urgente il discorso. Concordi una parola d'ordine familiare per le truffe da clonazione vocale. Renda chiara la linea netta — qualunque richiesta di denaro, immagini o accesso agli account da parte di un contatto conosciuto solo online — vale a prescindere da quanto reale sembri l'altra persona.

Regoli le impostazioni che riducono l'esposizione. Inasprire la privacy degli account social di suo figlio limita quanto liberamente gli sconosciuti possano raccogliere le foto del volto da cui i deepfake sono costruiti. Verificare ciò che è già pubblico — il compito affine trattato nella nostra guida all'impronta digitale del suo adolescente — conta anche qui, perché l'impronta è l'approvvigionamento. Rivedere chi può contattarlo e inviargli messaggi chiude i canali di primo contatto più comuni. Sapere quali app sono sul dispositivo — comprese le app di compagnia con IA — è il punto di partenza per qualsiasi conversazione utile. Niente di tutto questo è un muro, e dovrebbe essere fatto con suo figlio anziché su di lui, ma abbassa la fornitura grezza di materiale e di contatto da cui dipende ogni minaccia in questa guida.

Usi il monitoraggio in modo trasparente, se lo usa. In molti luoghi un genitore o un tutore legale può impiegare un monitoraggio adeguato all'età sul dispositivo di un figlio, anche se le regole variano per paese, stato e situazione di custodia, quindi verifichi cosa vale dove risiede. Dove c'è una preoccupazione di sicurezza autentica può essere uno strato ragionevole di protezione — ma il fattore decisivo è la trasparenza. La sorveglianza nascosta, se un adolescente la scopre, conferma il copione del manipolatore secondo cui gli adulti non sono affidabili e spinge l'adolescente su un dispositivo nascosto dove lei non ha alcuna visibilità. Un monitoraggio di cui suo figlio sappia, che comprenda e che gli sia stato spiegato lavora con la relazione invece che contro di essa. Lo pensi come un'impalcatura: visibile, proporzionata e rimossa gradualmente man mano che la fiducia e l'autonomia crescono — non un sostituto delle conversazioni di cui sopra, ma un loro sostegno.

Sappia che non deve tenere il passo con ogni strumento. I genitori in quest'area spesso sentono di stare perdendo una corsa contro una tecnologia che cambia più velocemente di quanto possano imparare. La verità rassicurante è che non c'è bisogno. Le app specifiche continueranno a cambiare; lo schema sottostante — manipolazione, ricatto, intimità fabbricata — no. Un genitore che comprenda lo schema, e con cui il proprio figlio adolescente parli, è attrezzato per il prossimo strumento tanto quanto per quello attuale.

Segnalare gli abusi con IA e ottenere aiuto

Non le servono prove, certezze o un quadro completo per fare una segnalazione. Gli enti che ricevono segnalazioni si aspettano informazioni incomplete e preferirebbero di gran lunga ricevere una segnalazione che si riveli minore piuttosto che mancarne una che non lo era. Questa sezione è una mappa, non un parere legale; per qualsiasi cosa che possa comportare imputazioni penali, consulti un avvocato qualificato nella sua giurisdizione. Prima di segnalare qualcosa, conservi le prove — screenshot dell'immagine, dell'account, del nome utente e di qualunque messaggio — perché bloccare o cancellare prima può distruggere ciò su cui la segnalazione si costruisce.

Dove iniziare dipende da dove si trova. Le schede sotto indicano il primo canale di segnalazione per area; i dettagli completi seguono.

• Stati Uniti Segnali lo sfruttamento sessuale, l'adescamento o la sextortion di un minore — comprese immagini esplicite di un adolescente generate da IA — alla NCMEC CyberTipline. Per reati con una componente online o finanziaria, anche all'Internet Crime Complaint Center (IC3) dell'FBI. Per perdite da truffa, ReportFraud.ftc.gov.
• Regno Unito Segnali la preoccupazione che un minore sia sfruttato online al CEOP, parte della National Crime Agency. Aiuto per la rimozione di immagini per i minori di 18 anni tramite la Internet Watch Foundation e lo strumento Report Remove di Childline.
• Unione Europea Usi la pertinente hotline nazionale coordinata attraverso la rete INHOPE per contenuti illegali e sfruttamento di minori.
• Altrove Contatti la polizia nazionale o locale e la hotline del suo paese dedicata alla protezione dei minori o ai cyber-tip; molte hotline nazionali sono elencate nella directory internazionale di INHOPE.

In ogni area, segnali anche alla piattaforma — ma tratti la segnalazione alla piattaforma come un'aggiunta al canale delle forze dell'ordine, mai come un suo sostituto. Per rallentare l'ulteriore diffusione di un'immagine esplicita, il servizio gratuito Take It Down, gestito da NCMEC, crea un'impronta digitale che le piattaforme aderenti usano per rilevare e bloccare copie corrispondenti di immagini di soggetti sotto i 18 anni — comprese, dove il servizio e le piattaforme aderenti supportano la corrispondenza di contenuto sintetico, le immagini di minori generate da IA. Per persone che avevano più di 18 anni quando un'immagine è stata scattata, StopNCII.org offre il servizio equivalente. Nessuno dei due è un pulsante universale di cancellazione, ma entrambi rallentano in modo significativo l'ulteriore diffusione.

Per una guida continuativa per i genitori, l'organizzazione no-profit di ricerca sulla sicurezza dei minori Thorn pubblica ricerche su IA e sicurezza dei minori; Internet Matters e l'NSPCC pubblicano materiale gratuito e regolarmente aggiornato per le famiglie; e il Pew Research Center traccia come gli adolescenti effettivamente usano la tecnologia.

Domande frequenti