Riesgos de la IA para adolescentes: deepfakes, compañeros de IA y manipulación sintética

Qué son los deepfakes y lo fácil que se han vuelto

Durante la mayor parte de la última década, un padre o una madre que se preocupaba por su adolescente en internet tenía un modelo mental que, en gran medida, se sostenía: un desconocido podía mentir sobre quién era, una foto real podía compartirse sin consentimiento, una conversación real podía ser tergiversada. Las amenazas eran serias, pero funcionaban sobre material real. Lo que ha cambiado la inteligencia artificial no es la lista de peligros. Es el suministro de materia prima. Las amenazas ya no necesitan nada real para empezar.

Un deepfake es una pieza de contenido sintético —una imagen, un vídeo o un clip de audio— creada o alterada por inteligencia artificial de modo que muestra de forma convincente a una persona real haciendo o diciendo algo que nunca hizo. La palabra abarca una cara superpuesta a otro cuerpo, una voz clonada a partir de una grabación corta y una cara que no pertenece a nadie en absoluto. Lo que las une es que el resultado parece lo bastante auténtico para ser creído, y que producirlo hoy requiere una aplicación de consumo y unos minutos, en lugar de un estudio y un experto.

Dos hechos sobre esto le importan a un padre o a una madre. El primero es el coste: producir contenido sintético convincente ha pasado de ser una tarea de especialistas a algo barato, rápido y de un solo clic. El segundo es la entrada. Un deepfake no necesita partir de una foto privada o comprometedora. Solo necesita imágenes cotidianas de una cara: exactamente las imágenes que casi todos los adolescentes ya han publicado, o que aparecen en un anuario, en una lista deportiva o en el feed de una amistad.

El resto de esta guía trata cada amenaza con IA del mismo modo: no como un peligro nuevo e incognoscible, sino como un riesgo antiguo que un padre o una madre quizá ya entiendan a medias, ahora despojado de la fricción que solía frenarlo. Comprenda qué está amplificando cada amenaza y dejará de resultar misteriosa.

Desnudos deepfake y aplicaciones «nudify»

La más difícil de tratar de estas amenazas es también una de las más comunes, así que conviene hablar con claridad. Una categoría creciente de herramientas de IA —a menudo comercializadas como aplicaciones «nudify»— existe para tomar una fotografía vestida y cotidiana de una persona real y generar una imagen falsa de ella desnuda. Cuando la persona en la fotografía es un adolescente, el resultado es una imagen sexual de un menor generada por IA, y crearla o compartirla constituye un delito grave en un número creciente de jurisdicciones, sea cual sea lo que sugiera el marketing de la aplicación.

Es importante entender quién suele hacer esto. La cobertura mediática puede dar a entender que es obra de lejanas redes criminales, y a veces lo es. Pero una buena parte de los incidentes de desnudos deepfake con adolescentes los crean otros adolescentes —un compañero de clase, una expareja, alguien con un rencor— con una aplicación que encontraron en una tarde. El abuso no llega desde un desconocido en la sombra, sino desde el mundo social en el que su adolescente ya vive. Eso es lo que hace que se propague rápido por un colegio, y lo que lo vuelve tan hiriente.

¿Por qué son los adolescentes el objetivo? En parte porque la materia prima está muy disponible: los adolescentes publican más imágenes de sí mismos que cualquier otro grupo, y basta con una sola foto clara de un rostro. En parte porque el coste social golpea con más fuerza a esa edad, cuando la reputación y la posición entre iguales se sienten como algo total. Y la selección de víctimas no es pareja. Las chicas son, de forma abrumadora, las víctimas del abuso de desnudos deepfake, y el daño interactúa con los patrones de vulnerabilidad a los que esta serie vuelve una y otra vez: una adolescente socialmente aislada o neurodivergente tiene menos colchón de apoyo para absorber el golpe y menos personas de confianza a las que contárselo.

Un incidente típico en un colegio sigue un arco sombrío. Se genera una imagen y se comparte en un chat de grupo. Se propaga más rápido de lo que cualquier adulto se entera. La adolescente afectada suele enterarse la última, por las reacciones de los demás, y el instinto de una persona joven asustada es ocultarlo, que es justamente el instinto que deja que el abuso campe a sus anchas. Para cuando se avisa a un padre, a una madre o a un profesor, la imagen puede haber viajado mucho más allá de quienes la vieron primero.

El patrón está documentado a escala. La Internet Watch Foundation del Reino Unido, que retira de internet material de abuso sexual infantil, ha informado de un rápido aumento del CSAM generado por IA circulando en línea desde 2023, incluidas imágenes sintéticas realistas construidas a partir de fotos públicas y cotidianas de menores reales e identificables. El National Center for Missing & Exploited Children de Estados Unidos también ha informado de un fuerte aumento interanual de las denuncias en el CyberTipline relacionadas con material producido por IA generativa desde que se empezó a contabilizar esta categoría.

Este es el mensaje central que debe transmitir a su adolescente antes de que ocurra nada de esto, con calma y por adelantado: si alguna vez se crea una imagen explícita falsa de ti, no es culpa tuya y no estás en un lío. El delito pertenece por entero a la persona que la creó y la compartió. La imagen está fabricada; no documenta nada que su adolescente haya hecho. La vergüenza es el motor de este abuso —mantiene en silencio a las víctimas y deja que la imagen viaje—, y un padre o una madre que retiran la vergüenza por adelantado han hecho lo más protector que estaba a su alcance.

El terreno legal se ha movido a favor de la víctima. En Estados Unidos, la TAKE IT DOWN Act federal, promulgada el 19 de mayo de 2025, tipifica como delito la publicación deliberada de imágenes íntimas no consentidas —incluyendo expresamente las generadas por IA que cumplan los requisitos— y exige a las plataformas obligadas actuar ante una solicitud válida de retirada en un plazo de 48 horas; la disposición de cumplimiento por parte de las plataformas entró en vigor un año después de la promulgación. La ley cubre ciertas plataformas y ciertos tipos de imágenes, así que la retirada no es automática para cada imagen en cada sitio, pero ahora un padre o una madre disponen de un canal federal además de los estatales y los de las propias plataformas. Un número creciente de estados de Estados Unidos también ha aprobado sus propias leyes que abordan específicamente los deepfakes sexualmente explícitos de menores.

Otras jurisdicciones se han movido en la misma dirección. La Online Safety Act de 2023 del Reino Unido tipifica como delito la difusión de imágenes íntimas no consentidas, incluidos los deepfakes; el eSafety Commissioner de Australia tiene potestades legales para ordenar la retirada rápida de imágenes íntimas publicadas sin consentimiento, y varias provincias canadienses han actualizado sus leyes sobre imágenes íntimas para cubrir el material alterado digitalmente o generado por IA. La conclusión práctica: esto no es una zona gris que su adolescente tenga que soportar sin más. Hay canales de denuncia y herramientas de retirada, recogidos en el último apartado de esta guía.

Sextorsión impulsada por IA

La sextorsión financiera ya era uno de los delitos más agresivos dirigidos a menores antes de que entrara en escena la IA. La sextorsión financiera es un esquema en el que un atacante obtiene una imagen explícita de una persona joven y luego amenaza con enviarla a su familia, a sus amistades y a sus seguidores a menos que se le pague. Avanza deprisa y es brutal: un contacto halagador, una petición de una imagen presentada como un intercambio normal y, en cuestión de minutos, una exigencia de dinero. El FBI y sus socios han emitido reiteradas alertas públicas sobre un fuerte aumento de este delito, que afecta de forma desproporcionada a los adolescentes varones.

El FBI y sus socios han advertido de un gran aumento de la sextorsión financiera dirigida a menores —un delito en el que se coacciona a personas jóvenes a partir de imágenes explícitas y luego se les extorsiona para obtener dinero— y han instado a las familias a denunciar en lugar de pagar.

— FBI, Alerta Nacional de Seguridad Pública sobre esquemas de sextorsión financiera

La magnitud descrita en esa alerta no es abstracta. El FBI informó de haber recibido más de 7000 denuncias de sextorsión financiera en línea contra menores, vinculadas al menos a 3000 víctimas identificadas —principalmente adolescentes varones— y más de una docena de suicidios entre los menores afectados. Avisos posteriores del FBI y sus socios han advertido de que las cifras han seguido subiendo.

Lo que cambia la IA es el primer paso. La sextorsión tradicional necesitaba una imagen explícita real, lo que significaba que el atacante debía manipular al adolescente para que la produjera y la enviara. Ese paso llevaba su tiempo y le daba a un adolescente prudente un punto en el que negarse. La sextorsión con IA lo elimina. Un atacante puede ahora fabricar una imagen explícita con una herramienta de deepfake, usando únicamente las fotos cotidianas que un adolescente ya ha publicado, y formular la amenaza idéntica —«págame, o todos los que te conocen verán esto»— sin que el adolescente haya enviado nunca nada.

Por eso ha dejado de funcionar la frase de autoconsuelo adolescente más extendida. «No pueden chantajearme, nunca he enviado nada así» era antes mayoritariamente cierto. Ya no es una defensa, porque el atacante no necesita que el adolescente haya enviado nada. Para un quinceañero asustado que mira un deepfake convincente de su propia cara, la distinción entre una imagen real y una sintética apenas pesa. La amenaza se siente total, el pánico es genuino y el pánico es justo aquello sobre lo que opera el esquema.

Por suerte, la respuesta no cambia en absoluto. Sea la imagen real o fabricada, la orientación es idéntica, y conviene decírsela a su adolescente por adelantado para que ya la tenga en la cabeza si alguna vez llega una amenaza. No pague: el pago marca al adolescente como un objetivo que paga y trae más exigencias, no menos. No envíe nada más. Deje de responder. Conserve todo: capturas de la imagen, la cuenta, el nombre de usuario, los mensajes, las exigencias de pago. Después dígaselo a un adulto de confianza y denuncie. El poder del atacante depende por entero de que la víctima crea que está sola y de que ceder es la única salida. Ninguna de las dos cosas es cierta. El hecho de que la imagen sea falsa, allí donde lo sea, también puede ayudar, pero incluso cuando es real, un adolescente que denuncia no está en un lío y no está más allá de la ayuda.

Una cosa más, conviene decirla con claridad porque la vergüenza hace que los adolescentes la oculten: el momento en que un padre o una madre más necesitan estar serenos es el momento en que descubren que su adolescente ya ha pagado, o que ya ha enviado una imagen. Eso no es un fracaso ni un motivo para enfadarse. Es el momento más importante para actuar: cortar el contacto, conservar las pruebas y denunciar; y un adolescente que tema un castigo simplemente dejará de contárselo.

Compañeros de IA y dependencia emocional

Las amenazas deepfake anteriores son delitos reconocibles, con agresores y víctimas. El próximo riesgo es distinto en su naturaleza y más difícil de ver para un padre o una madre, porque nada en él parece un ataque. Un compañero de IA es un chatbot diseñado para actuar como un amigo, un confidente o una pareja sentimental: para recordar al usuario, interesarse por él, estar disponible a cualquier hora y, sobre todo, ser complaciente. Aplicaciones de esta categoría, Character.AI entre las más conocidas, son usadas por un número muy grande de adolescentes.

Conviene empezar por entender por qué un adolescente querría uno, sin desestimarlo. La adolescencia es, para muchas personas jóvenes, una etapa de intensa soledad, ansiedad social y del trabajo de averiguar quién es uno mismo. Un compañero que escucha sin juzgar, nunca se aburre, nunca tiene un mal día y siempre te dice que eres interesante ofrece algo real que la vida adolescente común a menudo no ofrece. Para un adolescente solitario, no es un atractivo frívolo. Es un alivio.

Pero fíjese en qué es el compañero. Es love bombing —ese torrente de afecto intenso y sin fricción y de validación que esta serie describe como una fase de la manipulación humana—, solo que automatizado, incansable e integrado en el producto. Un manipulador humano tiene que escenificar la atención; un chatbot de compañía es atención, sin esfuerzo y sin interruptor. No es un veredicto sobre toda conversación con un chatbot: muchos adolescentes utilizan estas aplicaciones de forma ligera, les resultan aburridas y siguen adelante. El riesgo comienza cuando el bot pasa a ser el principal desahogo emocional de un adolescente, cuando deja de ser un juguete y se convierte en una relación que no pide nada, no cuesta nada y nunca pone resistencia.

De ahí se siguen varios daños concretos, y vale la pena nombrarlos por separado.

• Desplazamiento Las horas y la energía emocional que irían a amistades humanas más exigentes y más gratificantes fluyen en cambio hacia el bot, que es más fácil, y las habilidades humanas que solo se desarrollan con la práctica se estancan en silencio.
• Un molde distorsionado Una relación con algo diseñado para estar siempre de acuerdo enseña a un adolescente a esperar una devoción sin fricción y hace que el desacuerdo normal de la amistad real se sienta como un rechazo.
• Mala orientación Un compañero no es un terapeuta. Si se le pregunta por autolesiones, por un trastorno alimentario o por una crisis, puede responder de formas que sean inútiles o inseguras, y un adolescente angustiado puede confiar en él precisamente porque nunca reacciona con alarma.
• Aislamiento respecto de la ayuda Un adolescente que le cuenta todo a un bot puede contarle menos a un padre o a una madre, a una amistad o a un profesional, y las personas que sí podrían intervenir pierden la visión de cómo está.

Los adolescentes con más probabilidad de formar un apego profundo son los mismos a los que esta serie señala una y otra vez: los solitarios, los socialmente ansiosos y los neurodivergentes. Para un adolescente que encuentra la vida social humana ardua e imprevisible, un compañero infinitamente paciente y enteramente predecible no es una pequeña comodidad: puede convertirse en la relación más cómoda que tenga. Esa comodidad es precisamente por la que la dependencia se profundiza, y por la que este grupo merece la atención más cercana y más amable.

Esta es un área de preocupación real y creciente, más que de ciencia asentada, y los padres deberían desconfiar de ambos extremos: el pánico que trata cada conversación con un chatbot como un daño y la desestimación que la trata como un juego inofensivo. Las aplicaciones de compañía con IA se han enfrentado a demandas y al escrutinio regulatorio por la seguridad de los adolescentes. Character.AI, en particular, anunció a finales de 2025 que retiraría el chat abierto para usuarios menores de 18 años, una medida que otros operadores pueden seguir a medida que el panorama regulatorio sigue cambiando deprisa. La respuesta sosegada no es un veredicto sobre la tecnología. Es atención. Sepa si su adolescente usa una aplicación de compañía, mantenga la curiosidad —antes que la alarma— sobre qué está haciendo en su vida, y observe la diferencia entre un uso ligero y ocasional y un adolescente cuyo centro de gravedad emocional se ha trasladado en silencio a un bot.

Identidades de catfish construidas con IA

El catfishing —construir una relación tras una identidad fabricada— siempre ha dependido de que el manipulador resolviera un problema práctico: hacer convincente a la persona falsa. Durante años eso significaba robar fotografías de una persona real, lo cual creaba una debilidad que un adolescente prudente podía aprovechar. Las fotos robadas pueden pasarse por una búsqueda inversa de imágenes y aparecer en la cuenta de su verdadero propietario. La falsificación tenía una costura.

La IA generativa cierra esa costura. Un manipulador puede ahora crear un rostro que no pertenece a nadie, de modo que una búsqueda inversa no devuelve nada, porque no hay original. Puede generar un conjunto coherente de imágenes de esa persona inventada en distintos escenarios y poses, construyendo lo que parece una vida real. Puede producir clips de vídeo cortos y, con la clonación de voz, incluso hablar con una voz que combine. La identidad fabricada que antes había que tomar prestada puede ahora fabricarse a medida, sin una víctima real cuyas fotos puedan delatarla.

Este es el ejemplo más claro del principio que recorre toda esta guía: la IA no inventó aquí un peligro nuevo. El catfishing existía, el grooming existía, la manipulación de adolescentes en clave romántica existía. Lo que la IA ha quitado es la fricción. Hizo más convincente la falsificación y más fácil la tarea del manipulador, y retiró una de las verificaciones que se enseñaba a padres y adolescentes a utilizar.

Como las verificaciones basadas en la apariencia se están debilitando, las basadas en el comportamiento importan más que nunca, y siguen funcionando, porque no dependen de detectar la falsificación. Dependen de observar qué hace la persona. El ritmo es una: declaraciones de amor, hablar de almas gemelas y una primera petición de dinero o de imágenes que llegan en cuestión de días no es la forma en que se desarrolla una intimidad adolescente genuina, por más reales que parezcan las fotos. La resistencia a una verificación en vivo y sin guion es otra: una persona que no quiere girar la cabeza, pasar una mano por delante de la cara o hacer algo espontáneo en una videollamada le está diciendo algo, por buenas que sean las imágenes fijas. Y la línea más nítida de todas no ha cambiado: cualquier petición de dinero, tarjetas de regalo, criptomonedas, una imagen explícita o el acceso a una cuenta por parte de alguien conocido solo en línea debe poner fin a la relación e iniciar una conversación.

Como el catfishing es la puerta por la que comienza buena parte de esta manipulación, tiene su propia guía completa en esta serie: Catfishing y manipulación en línea: una guía para padres recorre las seis fases de la manipulación, las señales de alerta y cómo verificar si una persona en línea es real. La IA hace más difícil ver a través de la identidad; no cambia el arco de aquello para lo que se usa esa identidad.

Estafas de clonación de voz con IA

La última amenaza de esta guía llega más allá del adolescente, hasta toda la familia, y conviene que un padre o una madre la entiendan aunque el objetivo sea a menudo un adulto. La clonación de voz con IA toma una muestra corta de la voz grabada de una persona —en algunas herramientas, solo unos segundos— y produce una versión sintética a la que puede hacerse decir cualquier cosa. La muestra es fácil de obtener. La voz de un adolescente está por todas partes en los vídeos públicos que publica; la de un padre o una madre, en sus propias redes sociales y en el mensaje de su buzón de voz.

El uso clásico es la estafa de la «emergencia familiar», un fraude antiguo que la IA ha vuelto mucho más peligroso. Un padre, una madre o un abuelo reciben una llamada de teléfono. La voz es inconfundiblemente la de su hijo o su nieto, y está asustada: ha habido un accidente, una detención, una crisis en el extranjero, y hace falta dinero con urgencia y en secreto. La conmoción emocional es el arma. Está diseñada para empujar a quien escucha más allá del momento de la duda y hacia la acción antes de que pueda pensar, y la voz clonada elimina la única señal que solía romper el hechizo, porque suena de verdad como la persona a la que se ama.

La FTC ha advertido de que los estafadores pueden usar la IA para clonar la voz de un familiar a partir de un breve clip de audio y luego hacer una llamada urgente exigiendo dinero, y aconseja que, si recibe una llamada así, cuelgue y verifique poniéndose en contacto con la persona directamente en un número que sepa que es suyo.

— Comisión Federal de Comercio de Estados Unidos, alerta al consumidor sobre estafas de emergencia familiar con IA

Dos defensas sencillas resisten bien frente a esto. La primera es una palabra clave familiar: una palabra o una frase corta acordada de antemano, nunca escrita en línea y nunca publicada, que un familiar genuino pueda decir por teléfono en una emergencia. Quien no pueda darla no pasa el filtro, sea cual sea la voz que tenga. La segunda es un hábito: cualquier exigencia urgente y secreta de dinero, por convincente que sea la voz, es una señal para colgar y volver a llamar a la persona a un número que ya conoce. Una emergencia real sobrevive a una llamada de comprobación de dos minutos. Una estafa, no.

Señales de alerta en las tres amenazas

Las amenazas de IA de esta guía se dividen, para un padre o una madre, en dos clases de problemas, y las señales de alerta son distintas para cada una. Una clase es una crisis repentina: un deepfake o una amenaza de sextorsión que aterriza y produce angustia visible. La otra es una deriva lenta: una dependencia respecto de un compañero de IA que se va formando a lo largo de meses. Quien observe solo en busca de drama se perderá la segunda; quien observe solo en busca de cambios graduales no estará preparado para la primera. Las señales siguientes cubren ambas. Como siempre, ningún elemento aislado prueba nada: lo que cuenta es un conjunto de señales que aparezcan juntas en una ventana corta de tiempo. Los dos grupos también piden respuestas distintas: las señales de crisis repentina justifican actuar el mismo día; las señales de deriva lenta son una invitación a una conversación serena y a unas semanas de observación del patrón.

Señales de crisis repentina (acaba de llegar un deepfake o una amenaza de sextorsión)

• Un cambio repentino y brusco Un adolescente que se vuelve agudamente ansioso, retraído o angustiado en uno o dos días, a menudo tras un rato con el teléfono: la firma de una amenaza que acaba de aterrizar.
• Pánico por imágenes o por la reputación Angustia centrada en qué han visto los demás, quién lo ha visto o qué se está compartiendo, aunque su adolescente no quiera decir cuál es ese «qué».
• Presión por dinero Peticiones de dinero, efectivo que desaparece, nuevas compras de tarjetas de regalo o actividad inusual en aplicaciones de pago o de criptomonedas: un fuerte indicador de que ha comenzado una exigencia de sextorsión o de estafa.

Señales de deriva lenta (una relación en línea oculta o una dependencia respecto de un compañero)

• Secretismo en torno a una aplicación o un contacto Un teléfono más resguardado que antes, una conversación borrada cada noche o una cuenta nueva en una aplicación de compañía o de mensajería.
• Una relación en línea que nunca se vuelve real Una pareja o una amistad cercana conocida en línea a la que la familia nunca ve en una videollamada espontánea y que siempre tiene una razón por la que no puede hacerse una comprobación en vivo y sin guion.
• La vida emocional trasladada a una pantalla Un adolescente que confía menos en las personas y más en una aplicación, pierde el sueño por ella o se vuelve irritable o angustiado cuando está separado de ella: la firma lenta de la dependencia respecto de un compañero.
• Distanciamiento de las amistades humanas Alejamiento de las amistades existentes y de las rutinas fuera de la pantalla, sobre todo junto a un uso intensivo de una sola aplicación de IA.
• El silencio se instala Un adolescente antes hablador que se vuelve liso y uniformemente neutro respecto de la parte en línea de su vida: el silencio, en un hijo que solía narrar su día, es información.

La respuesta empieza por la relación, no por el dispositivo. Comience por la persona joven —pregunte cómo está, qué le ha rondado por la cabeza— en lugar de empezar por lo que ha notado en una pantalla. Si empieza por el dispositivo, enseña la lección que todo manipulador quiere que se enseñe: que los adultos son una amenaza que hay que manejar, no un recurso al que recurrir. Las dos secciones siguientes exponen qué hacer una vez que la conversación serena está abierta.

Qué pueden hacer los padres

Las amenazas de esta guía son nuevas, pero el trabajo de protección es en buena medida familiar, y la mayor parte de él no es técnico. Se apoya en tres cosas: una relación en la que un adolescente realmente le cuente cuando algo va mal, un pequeño conjunto de conversaciones mantenidas antes de la crisis y no después, y unos pocos ajustes y hábitos prácticos. En conjunto, importan mucho más que cualquier herramienta aislada.

Mantenga las conversaciones pronto. La frase más poderosa de esta guía es una que se dice por adelantado: si alguna vez aparece una imagen falsa de ti o alguien te amenaza con una, no estarás en un lío y lo resolveremos juntos. Un adolescente que ya sabe eso es mucho más probable que acuda a usted en la primera hora, cuando es más fácil ayudar, en lugar de ocultar el problema hasta que ha crecido. Hable sobre los deepfakes con sencillez, antes de que un incidente lo vuelva urgente. Acuerde una palabra clave familiar para las estafas de clonación de voz. Deje claro que la línea nítida —cualquier exigencia de dinero, imágenes o acceso a cuentas por parte de un contacto exclusivamente en línea— se aplica por más real que parezca la otra persona.

Ajuste la configuración que reduce la exposición. Endurecer la privacidad de las cuentas sociales de su adolescente limita la libertad con que personas desconocidas pueden recolectar las fotos del rostro con las que se construyen los deepfakes. Auditar lo que ya es público —la tarea complementaria tratada en nuestra guía sobre la huella digital de su adolescente— también importa aquí, porque la huella es el suministro. Revisar quién puede contactar y enviar mensajes a su adolescente cierra los canales de primer contacto más habituales. Saber qué aplicaciones hay en el dispositivo —incluidas las aplicaciones de compañía con IA— es la base de cualquier conversación útil. Nada de esto es un muro, y debería hacerse con su adolescente y no contra él, pero reduce el suministro bruto de material y de contacto del que depende cada amenaza de esta guía.

Use la supervisión de forma transparente, si la usa. En muchos lugares, un padre o un tutor legal pueden usar una supervisión adecuada a la edad en el dispositivo de un menor, aunque las reglas varían según el país, el estado y la situación de custodia, así que compruebe lo que se aplica donde vive. Cuando hay una preocupación genuina por la seguridad, puede ser una capa razonable de protección, pero el factor decisivo es la transparencia. Una vigilancia encubierta, si un adolescente la descubre, confirma el guion del manipulador según el cual no se puede confiar en los adultos y empuja al adolescente hacia un dispositivo oculto en el que usted no tiene visibilidad alguna. Una supervisión que su adolescente conozca, comprenda y le haya sido explicada trabaja a favor de la relación, no en su contra. Piense en ella como un andamio: visible, proporcionado y retirado de forma gradual a medida que crecen la confianza y la autonomía; no un sustituto de las conversaciones anteriores, sino un apoyo para ellas.

Sepa que no tiene por qué seguirles el ritmo a todas las herramientas. En esta área, los padres a menudo sienten que pierden una carrera contra una tecnología que cambia más rápido de lo que pueden aprenderla. La verdad tranquilizadora es que no necesitan hacerlo. Las aplicaciones concretas seguirán cambiando; el patrón subyacente —manipulación, chantaje, intimidad fabricada— no. Un padre o una madre que comprenden el patrón, y cuyo adolescente hable con ellos, están equipados para la próxima herramienta tan bien como para esta.

Denunciar el abuso con IA y conseguir ayuda

No necesita pruebas, certeza ni un cuadro completo para presentar una denuncia. Los organismos de denuncia esperan información incompleta y prefieren con mucho recibir una denuncia que resulte menor a perder una que no lo era. Esta sección es un mapa, no asesoramiento legal; para cualquier asunto que pueda implicar cargos penales, consulte a un abogado cualificado en su jurisdicción. Antes de denunciar nada, conserve las pruebas —capturas de pantalla de la imagen, la cuenta, el nombre de usuario y de cualquier mensaje—, porque bloquear o borrar primero puede destruir aquello sobre lo que se construye una denuncia.

Por dónde empezar depende de dónde se encuentre. Las tarjetas siguientes indican el primer canal de denuncia por región; los detalles completos siguen a continuación.

• Estados Unidos Denuncie la explotación sexual, la incitación o la sextorsión de un menor —incluidas imágenes explícitas de un adolescente generadas por IA— al NCMEC CyberTipline. Para delitos con un componente en línea o financiero, también al Internet Crime Complaint Center (IC3) del FBI. Para pérdidas por estafa, ReportFraud.ftc.gov.
• Reino Unido Denuncie las preocupaciones de que un menor esté siendo explotado en línea a CEOP, parte de la National Crime Agency. Ayuda para la retirada de imágenes para menores de 18 años a través de la Internet Watch Foundation y la herramienta Report Remove de Childline.
• Unión Europea Utilice la línea directa nacional pertinente coordinada a través de la red INHOPE para contenido ilegal y explotación infantil.
• En otros lugares Póngase en contacto con su policía nacional o local y con la línea directa de protección infantil o de denuncia cibernética de su país; muchas líneas directas nacionales figuran en el directorio internacional de INHOPE.

En todas las regiones, denuncie también ante la plataforma, pero trate la denuncia ante la plataforma como un añadido al canal de las fuerzas del orden, nunca como un sustituto. Para frenar la difusión posterior de una imagen explícita, el servicio gratuito Take It Down, operado por el NCMEC, crea un hash digital que las plataformas participantes utilizan para detectar y bloquear copias coincidentes de imágenes de personas menores de 18 años, incluidas —cuando el servicio y las plataformas participantes admiten la coincidencia con contenido sintético— las imágenes de menores generadas por IA. Para personas que tuvieran más de 18 años cuando se tomó una imagen, StopNCII.org ofrece el servicio equivalente. Ninguno es un botón universal de borrado, pero ambos frenan de forma significativa la difusión posterior.

Para una orientación parental continuada, la organización sin ánimo de lucro de investigación en seguridad infantil Thorn publica investigaciones sobre la IA y la seguridad infantil; Internet Matters y la NSPCC publican material gratuito y actualizado regularmente para familias; y el Pew Research Center sigue cómo utilizan realmente la tecnología los adolescentes.

Preguntas frecuentes