¿Qué son los deepfakes? Cómo la IA falsifica fotos, vídeos y voces

Qué es realmente un deepfake

La mayoría de los padres se encuentra por primera vez con la palabra en un titular — una celebridad que nunca dijo aquello, un político que nunca estuvo allí, la cara de un compañero de clase sobre un cuerpo que nunca fue el suyo. Los titulares son reales, pero dejan un vacío: una definición práctica que un padre o una madre pueda usar de verdad. Sin ella, toda foto extraña parece inofensiva o siniestra, y ninguna de las dos suposiciones ayuda a su hijo adolescente.

Un deepfake (también escrito en dos palabras, deep fake) es una pieza de contenido sintético — una imagen, un vídeo o un fragmento de audio — creada o alterada por inteligencia artificial para mostrar de forma convincente a una persona real haciendo o diciendo algo que nunca hizo. La Encyclopædia Britannica lo define como contenido sintético «que retrata algo que no existe en la realidad o sucesos que nunca ocurrieron». La palabra en sí es un acrónimo de deep learning (aprendizaje profundo), la técnica de IA que la impulsa, y fake (falso) — y la palabra es más joven que los adolescentes a los que ahora afecta.

El término surgió a finales de 2017, cuando un usuario de Reddit creó un subreddit llamado «r/deepfakes» y empezó a publicar allí vídeos con caras intercambiadas, dando nombre a toda la categoría. En menos de una década ha pasado de ser un rincón oscuro de internet a un problema en los pasillos de los colegios. Esa velocidad importa: la tecnología con la que convive su hijo es más reciente que la mayoría de los consejos que los padres han oído sobre ella.

Una sola etiqueta abarca ahora tres cosas distintas — una cara superpuesta sobre otro cuerpo, una voz clonada a partir de una grabación breve y, en su extremo más laxo, una cara que no pertenece a nadie en absoluto. En sentido estricto, un deepfake imita o altera a una persona real; una cara completamente inventada es una prima cercana — contenido sintético usado del mismo modo, en perfiles falsos y estafas. Lo que las une no es cómo se construyen, sino lo que logran: un resultado lo bastante auténtico como para ser creído. La guía pilar sobre los riesgos de la IA para los adolescentes trata cada una como una versión amplificada de un peligro más antiguo; esta guía se centra en el deepfake en sí — qué es, cómo se crea y por qué está de repente en todas partes.

Cómo se crean realmente los deepfakes

No necesita saber cómo construir uno para proteger a su hijo de él — y esta guía no explicará cómo hacerlo. Pero un padre o una madre que entiende la mecánica general es mucho más difícil de engañar, y mucho mejor a la hora de explicarle el riesgo a un adolescente escéptico. En el centro de casi todos los deepfakes hay una idea sencilla: muestre a un modelo de IA suficientes ejemplos reales de una cara o de una voz, y aprenderá a producir versiones nuevas y convincentes.

El método más conocido es la red generativa adversarial, o GAN — un punto de inflexión en la tecnología cuando apareció a mediados de la década de 2010. Se enfrentan dos modelos de IA entre sí en lo que viene a ser un juego de falsificador e inspector, y el falsificador sigue mejorando hasta que el inspector ya no puede atraparlo.

Los deepfakes se producen a menudo mediante redes generativas adversariales (GAN), en las que dos modelos distintos de aprendizaje profundo de IA trabajan juntos en un juego de adivinanzas. Uno de los modelos crea la mejor réplica posible de una imagen o un vídeo real y el otro detecta si la réplica es falsa y, si detecta un error, informa de las diferencias entre esta y el original.

— Encyclopædia Britannica, «Deepfake»

Los sistemas más nuevos usan modelos de difusión — hoy habituales en las herramientas de imagen y vídeo — que parten de ruido aleatorio y lo refinan, paso a paso, hasta convertirlo en una imagen que coincide con una descripción. El vídeo de intercambio de rostros tiende a apoyarse de nuevo en otra herramienta — una red que el MIT Sloan describe como un «autocodificador variacional», entrenado para comprimir una cara en un patrón compacto y reconstruirla sobre la cabeza de otra persona. Una voz se clona alimentando un modelo con grabaciones reales hasta que es capaz de imitar cómo habla una persona. Los detalles difieren; el principio no. Muéstrele a la máquina suficiente de algo real, y fabricará algo falso.

El detalle técnico avanza más rápido de lo que cualquier padre o madre puede seguir — y no hace falta seguirlo. Las mismas familias de modelos que impulsan los inofensivos filtros de fotos y los asistentes de deberes impulsan también el abuso, que es precisamente la razón por la que la tecnología es tan difícil de aislar, y por la que la pregunta útil no es «cómo la prohíbo» sino «cómo verificamos lo que estamos viendo».

Las tres formas con las que de verdad se topará

Para un padre o una madre, la taxonomía útil no es técnica. Tiene que ver con lo que llega — al teléfono de su hijo, a su propio buzón de voz o a un chat de grupo. Tres formas cubren casi todo.

Las fronteras se difuminan: un perfil falso puede combinar una cara sintética con una voz clonada y un clip de cara intercambiada ofrecido como «prueba». Esa última forma es la manera en que la IA reconstruye el clásico catfishing — el pilar cubre en detalle las identidades de catfishing creadas con IA. Pero nombrar la forma es el primer paso para juzgar la cosa concreta que le han enviado a su hijo.

Por qué de repente se volvió barato, rápido y fácil

Durante casi toda la historia de la informática, falsificar una cara de forma convincente requería un estudio, un presupuesto y un especialista. Dos cosas cambiaron eso. La primera fue el salto técnico ya descrito — los métodos generativos que llegaron a mediados de la década de 2010. La segunda fue la distribución: herramientas y servicios gratuitos y descargables que rebajaron de forma constante la barrera para los no expertos. Lo que antes exigía un estudio y un especialista se ha vuelto mucho más accesible.

El cambio que más importa a un padre o una madre no es la velocidad, sino la materia prima. Un deepfake ya no necesita una imagen privada ni comprometedora de partida. Solo necesita fotos corrientes de una cara — del tipo que ya está en un anuario, en la lista de un equipo, en la publicación de un amigo, en un perfil público o en una cuenta antigua. El FBI advierte de que los actores maliciosos toman «fotos o vídeos — normalmente captados de la cuenta de redes sociales de una persona, de internet abierto, o solicitados a la víctima» — y los convierten en algo que esa persona nunca hizo. La materia prima es la huella corriente que cualquier adolescente deja en internet — y por eso una huella más pequeña y más privada es una de las pocas protecciones prácticas, no porque publicar haya sido nunca el error del adolescente.

Las cifras siguen la propagación. El primer censo real de deepfakes, el informe de 2019 de Deeptrace, contabilizó 14.678 vídeos deepfake en internet — casi el doble de la cifra de siete meses antes, y un 96 % de ellos pornografía no consentida. Para 2023, la firma de verificación de identidad Sumsub informó de un aumento de diez veces en los deepfakes que detectó en un solo año. Los dos recuentos miden cosas distintas — vídeos en internet frente a falsificaciones detectadas en comprobaciones de identidad — pero apuntan en la misma dirección: en apenas unos años, el contenido sintético ha pasado de ser una curiosidad a un problema a gran escala.

Dónde se topan de verdad los adolescentes con los deepfakes

La mayor parte del contenido alterado por IA que ve su hijo es inofensiva — filtros faciales, voces sobrepuestas de broma, efectos de rejuvenecimiento — y tratarlo todo como una amenaza solo le costará credibilidad. El daño empieza cuando esas mismas técnicas de contenido sintético se usan para suplantar, humillar, estafar o coaccionar, y llega a los adolescentes a través de un puñado de puertas reconocibles.

• Llamadas y mensajes fraudulentos Una voz clonada impulsa la llamada de la «emergencia familiar». La FTC advierte de que a un estafador le basta con «un clip de audio breve … que podría obtener de contenido publicado en internet». La voz al otro lado de la línea puede ser la de un familiar — o la de su hijo, clonada para engañarle a usted.
• Imágenes íntimas falsas Fotos corrientes convertidas en falsificaciones explícitas. Esto ha afectado a colegios reales: a finales de 2023, un alumno de un instituto de Nueva Jersey fue acusado de usar IA para falsificar imágenes de desnudos de compañeras de clase — una de las chicas dijo que estaba entre más de treinta afectadas. La niña que aparece en cualquier foto así no hizo nada malo; quien la creó sí. El pilar cubre por completo los desnudos deepfake y las apps de «nudify».
• Sextorsión Chantaje que ya no necesita una imagen real. El FBI informa de que las víctimas, incluidos los menores, a menudo «desconocen que sus imágenes fueron copiadas, manipuladas y difundidas hasta que alguien más se lo hizo saber». Consulte la sextorsión impulsada por IA.
• Acoso Clips falsos, «recibos» falsos e imágenes humillantes que circulan por un curso entero — acoso entre iguales hecho más convincente mediante «pruebas» sintéticas. Encaja de lleno en el ciberacoso.
• Personas falsas Caras e identidades sintéticas detrás de perfiles de catfishing, que hacen que un desconocido parezca un adolescente creíble. Nuestra guía para comprobar si una persona en internet es real sigue siendo válida — solo que ahora tiene que esforzarse más.

La escala es real, pero se malinterpreta con facilidad. En 2024, el National Center for Missing & Exploited Children registró un aumento del 1.325 % en los informes relacionados con la IA generativa, y a lo largo de 2024 y 2025 identificó más de 275 víctimas directas de material de abuso sexual infantil generado por IA — a menudo abusadas por alguien que ya estaba en la vida del niño. Las cifras brutas de 2025 parecen aún mucho mayores, pero el NCMEC advierte de que la mayor parte de ese volumen procedía de una sola fuente de notificación y carecía de detalle suficiente para actuar. Estos casos son difíciles de leer. También son superables, y la respuesta está bien establecida.

Por qué esto importa, aunque su hijo nunca sea un objetivo

Hay una consecuencia más silenciosa que toca a todos los adolescentes, sean o no objetivo. Durante generaciones, «lo vi con mis propios ojos» era el final de una discusión. Los deepfakes acaban con esa era. Cuando cualquier imagen puede ser falsa, suceden dos cosas a la vez: las cosas falsas se vuelven más fáciles de creer y — de forma más corrosiva — las cosas verdaderas se vuelven más fáciles de negar.

Irónicamente, los mentirosos que pretenden eludir la responsabilidad por sus palabras y actos reales se volverán más creíbles a medida que el público se eduque más sobre las amenazas que plantean los deep fakes.

— Bobby Chesney y Danielle Citron, «Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security», California Law Review (2019)

Los juristas llaman a esto el dividendo del mentiroso: una vez que todos saben que existen falsificaciones, un vídeo real puede desestimarse como «probablemente IA». Para un adolescente eso puede significar que una captura de pantalla auténtica de acoso se descarte como inventada, o que se niegue una disculpa real. El daño de los deepfakes no son solo las propias falsificaciones — es la duda que arrojan sobre todo lo que es real. Puede leer el argumento completo en la California Law Review.

El instinto es aprender a detectar las falsificaciones. Vale la pena conocer las señales clásicas — manos extrañas, dientes raros, iluminación incoherente, parpadeos antinaturales — pero es una habilidad en declive. El Media Lab del MIT es contundente al afirmar que no existe «ninguna señal delatora única», y cuando en 2025 unos investigadores probaron herramientas de detección frente a falsificaciones del mundo real, su precisión cayó en picado — incluso mientras la tecnología sigue mejorando. Detectar errores sigue siendo útil, pero ya no basta.

Así que el objetivo se desplaza — de detectar la falsificación a verificar la fuente. Ese es un hábito que una familia puede construir, y no depende de un ojo agudo.

Nada de esto exige que su hijo le tenga miedo a su teléfono, ni que usted se convierta en analista forense. Exige una regla compartida — verificar antes de reaccionar — y un padre o una madre lo bastante sereno como para darle ejemplo. El resto de esta guía va riesgo por riesgo: cómo se crean y se afrontan las imágenes íntimas falsas, cómo funciona la sextorsión con IA, cómo llegan a su familia las estafas de clonación de voz y cómo la IA está reconstruyendo el catfishing. Entienda la maquinaria una vez, y cada uno de ellos deja de ser un misterio y se convierte en un problema con un plan.

Preguntas frecuentes