GANs (Redes Generativas Antagónicas)

GANs (Redes Generativas Antagónicas)

$200 millones. Ese es el daño económico documentado que Resemble AI recopiló en los incidentes graves de deepfake del primer trimestre de 2025 —«documented financial damages exceeding $200 million in Q1 2025 alone»—. Conviene leerlo por lo que es: el recuento de los casos que una empresa de detección logró documentar, no una medición del fraude con deepfake, que nadie está en condiciones de censar. La tecnología que hace esto posible se llama GAN: dos redes neuronales enfrentadas en un juego de suma cero donde una falsifica y la otra detecta. Cuando el generador gana, el resultado es un rostro, una voz o un documento indistinguible del original para el ojo humano. En España, INCIBE registró 122.223 ciberincidentes en 2025, un 26% más que el año anterior, y los fraudes con contenido sintético generado por GANs representan una amenaza creciente para empresas y particulares.

Definición técnica

GAN (Generative Adversarial Network) es una arquitectura de aprendizaje profundo propuesta por Ian Goodfellow et al. en 2014 que enfrenta dos redes neuronales en un proceso de entrenamiento adversarial. El generador (G) aprende a crear datos sintéticos que imitan una distribución de datos reales, mientras el discriminador (D) aprende a distinguir datos reales de los sintéticos generados por G.

Componentes fundamentales:

Diferencia con otros modelos generativos:

• Autoencoders: Comprimen y reconstruyen datos, no generan contenido nuevo
• Diffusion Models: Añadir/eliminar ruido progresivamente, más lentos pero más estables
• GANs: Entrenamiento adversarial directo, más rápidos pero inestables (mode collapse)

Cómo funcionan las GANs: el juego adversarial

Arquitectura básica

                    ┌──────────────────┐
 Ruido aleatorio    │                  │     Dato
 (vector z)  ──────►│   GENERADOR (G)  │────► sintetico
                    │                  │     (imagen/audio)
                    └──────────────────┘         │
                                                  ▼
                                           ┌──────────┐
 Datos reales ────────────────────────────►│          │     Probabilidad
 (entrenamiento)                           │ DISCRIM. │────► real/falso
                                           │   (D)    │     [0 - 1]
                                           └──────────┘
                                                  │
                                          Backpropagation
                                          (ambas redes)

Proceso de entrenamiento paso a paso

1. Inicializacion: G y D se inicializan con pesos aleatorios
2. Generación: G recibe ruido aleatorio y produce una muestra sintética
3. Evaluación: D recibe muestras reales y sinteticas, clasifica cada una
4. Actualización D: Se ajustan pesos de D para mejorar la detección
5. Actualización G: Se ajustan pesos de G para engañar mejor a D
6. Iteracion: El proceso se repite miles de veces hasta convergencia

Analogía forense: Imaginemos un falsificador (G) y un perito caligrafo (D). Cada vez que el perito detecta una falsificación, el falsificador mejora su técnica. Cada vez que el falsificador logra engañar al perito, este afina su análisis. El resultado final: falsificaciones casi perfectas.

Función de perdida minimax

La formulación matemática original de Goodfellow define el entrenamiento como un juego minimax:

min_G max_D V(D, G) = E[log D(x)] + E[log(1 - D(G(z)))]

Donde:

• D(x) es la probabilidad de que D clasifique un dato real como real
• D(G(z)) es la probabilidad de que D clasifique un dato generado como real
• D quiere maximizar V (detectar correctamente)
• G quiere minimizar V (engañar a D)

Variantes de GANs relevantes para forense digital

StyleGAN (NVIDIA)

DeepFaceLab

WaveGAN / MelGAN (audio)

Dato critico: Los estafadores necesitan tan solo 3 segundos de audio para crear un clon de voz con un 85% de similitud con el hablante original, según la American Bar Association (2025).

GAN fingerprints: como la ciencia forense detecta contenido generado por IA

Qué son las huellas GAN

Cada arquitectura GAN deja una firma digital única en el contenido que genera, invisible al ojo humano pero detectable mediante análisis forense. Estas firmas se manifiestan en:

1. Dominio frecuencial: Las imágenes GAN contienen patrones periódicos detectables mediante Transformada Discreta de Fourier (DFT)
2. Artefactos de color: Correlaciones RGB anómalas en píxeles adyacentes
3. Patrones de ruido: Distribución de ruido que no coincide con sensores de cámara reales
4. Consistencia espectral: Investigadores demostraron que un clasificador ResNet50 entrenado en dominio frecuencial alcanzo un 92,82% de precisión y 0.95 AUC, superando significativamente al análisis en dominio espacial (Applied Sciences, 2025)

Análisis frecuencial con DFT

## Script: Detección GAN fingerprint via análisis frecuencial
import numpy as np
from PIL import Image
import matplotlib.pyplot as plt

def detectar_gan_fingerprint(imagen_path):
    """
    Detecta huellas GAN mediante analisis en dominio frecuencial.
    Las imagenes GAN muestran patrones periodicos en el espectro
    que las imagenes naturales no presentan.
    """
    # Cargar imagen y convertir a escala de grises
    img = np.array(Image.open(imagen_path).convert('L'), dtype=np.float64)

    # Aplicar Transformada Discreta de Fourier 2D
    f_transform = np.fft.fft2(img)
    f_shift = np.fft.fftshift(f_transform)
    magnitude = np.log(np.abs(f_shift) + 1)

    # Analizar picos periodicos (indicadores GAN)
    # Las imagenes GAN muestran picos regulares en alta frecuencia
    centro_y, centro_x = magnitude.shape[0] // 2, magnitude.shape[1] // 2

    # Extraer banda alta frecuencia (exterior del espectro)
    radio_min = min(centro_y, centro_x) * 0.6
    alta_freq = []
    for y in range(magnitude.shape[0]):
        for x in range(magnitude.shape[1]):
            dist = np.sqrt((y - centro_y)**2 + (x - centro_x)**2)
            if dist > radio_min:
                alta_freq.append(magnitude[y, x])

    # Calcular varianza alta frecuencia
    varianza_hf = np.var(alta_freq)
    media_hf = np.mean(alta_freq)

    # Ratio varianza/media: GAN > 0.15, natural < 0.10
    ratio = varianza_hf / media_hf if media_hf > 0 else 0

    if ratio > 0.15:
        return f"SOSPECHOSO GAN: ratio={ratio:.4f} (threshold: 0.15)"
    else:
        return f"Probablemente natural: ratio={ratio:.4f}"

## Uso
resultado = detectar_gan_fingerprint("imagen_sospechosa.jpg")
print(resultado)

Herramientas profesionales de detección

Limitación critica (2025-2026): Un CNN entrenado en DFDC alcanza más del 90% de precisión en su set de prueba, pero cae a aproximadamente el 60% en el dataset WildDeepfake. Los modelos entrenados con deepfakes GAN (StyleGAN2, DeepFaceLab) tienen dificultades con falsificaciones basadas en difusión (Stable Diffusion, DALL-E) que introducen patrones de artefactos diferentes (MDPI Applied Sciences, 2025).

Caso real: deepfake CEO por videollamada generado con GANs

Nota: El siguiente caso esta basado en investigaciones forenses documentadas internacionalmente. Los datos específicos han sido adaptados para fines educativos, preservando los aspectos técnicos relevantes.

El caso Arup: $25,5 millones perdidos

En febrero 2024, un empleado de la firma de ingeniería Arup (Reino Unido) participo en una videollamada donde creyo estar hablando con su CFO y otros directivos. Autorizo 15 transferencias por un total de $25,5 millones. Todos los participantes de la llamada, excepto la víctima, eran deepfakes generados por IA en tiempo real.

Análisis técnico del ataque:

Análisis forense aplicado

El Microsoft Video Authenticator analizo la consistencia de fuentes de luz entre fotogramas: el deepfake del CEO mostraba sombras apuntando hacia la izquierda mientras la iluminacion de la oficina provenia de la derecha, lo que genero alertas.

Indicadores forenses GAN detectados:

1. Parpadeo anormalmente regular (0.3 Hz constante vs 0.15-0.5 Hz variable en humanos)
2. Bordes faciales con píxeles interpolados (artefacto típico face swap)
3. Micro-expresiones ausentes (GANs no replican micro-expresiones involuntarias)
4. Audio con SNR anormalmente alto (mayor de 55 dB, esperado 20-30 dB en videollamada real)

Marco legal español: GANs y falsificación digital

Código Penal

Delitos aplicables a la creación y uso fraudulento de contenido generado por GANs:

Legislación en desarrollo (2025-2026)

En marzo de 2025, el Consejo de Ministros aprobo el Proyecto de Ley Orgánica para la Protección de Menores en Entornos Digitales, que propone enmendar el Código Penal para criminalizar específicamente los deepfakes sexuales, con protección particular para menores y víctimas de violencia de genero.

Hito administrativo: El 6 de noviembre de 2025, la AEPD (Agencia Española de Protección de Datos) dicto una resolución sancionadora por la creación y difusión de imágenes íntimas falsas (deepfakes) de una menor, considerada fundacional en la gobernanza de IA en Europa (Observatorio del Derecho a la Ciudad, 2025).

RGPD y datos biométricos

Los datos faciales y de voz utilizados para entrenar GANs constituyen datos biométricos bajo el Art. 9 RGPD (categorías especiales). Su tratamiento sin consentimiento explicito es ilícito, con multas de hasta 20 millones de euros o 4% facturación global.

Detección forense: protocolo de análisis paso a paso

Protocolo para imágenes sospechosas

1. Análisis metadatos EXIF: Verificar ausencia de datos de cámara (las imágenes GAN carecen de metadatos EXIF reales)
2. Inspección visual ampliada: Buscar artefactos en pupilas, dientes, orejas, bordes del cabello
3. Análisis frecuencial DFT: Detectar patrones periódicos en dominio frecuencial
4. Comparación GAN fingerprint: Contrastar con firmas conocidas de StyleGAN, DeepFaceLab, etc.
5. Reverse image search: Verificar si la imagen base existe en internet
6. Herramientas automatizadas: FaceForensics++, Sensity AI, Microsoft Video Authenticator

Protocolo para audio sospechoso

1. Análisis espectrograma: Buscar artefactos en banda 3.2-4.1 kHz
2. Variabilidad formantes: Medir desviación estándar F1/F2/F3 (deepfake: std menor de 5 Hz)
3. SNR: Verificar ratio señal/ruido (deepfake: SNR mayor de 55 dB, anormalmente limpio)
4. Transiciones fonemas: Evaluar naturalidad de cambios vocálicos (deepfake: menor de 20 ms)
5. Comparación con muestra real: Si disponible, contrastar parámetros acústicos

Protocolo para video sospechoso

1. Análisis fotograma a fotograma: Buscar inconsistencias temporales
2. Frecuencia parpadeo: Medir regularidad (GAN: demasiado constante)
3. Consistencia iluminacion: Verificar coherencia de sombras entre fotogramas
4. Sincronización labial: Medir desfase audio-video (GAN: latencia 50-200ms)
5. Micro-expresiones: Las GANs no replican expresiones involuntarias (Duchenne smile)

Aplicaciones legítimas de GANs en forense digital

No todas las aplicaciones de GANs son maliciosas. En el contexto forense, las GANs también se utilizan para:

FAQ

P: Puede un perito informático detectar siempre si una imagen fue generada por GANs? R: No siempre. La precisión de detección depende de la sofisticación del modelo GAN utilizado. Con datasets controlados, herramientas como FaceForensics++ alcanzan un 97,7% de precisión. Sin embargo, en entornos reales (imágenes comprimidas, redes sociales), la precisión cae al 60-75%. Un perito cualificado combina múltiples técnicas (frecuencial, visual, contextual) para maximizar la fiabilidad del análisis.

P: Los deepfakes generados por GANs son admisibles como prueba en juicio? R: El deepfake en si no es “prueba” sino objeto de pericia. El informe pericial que analiza la autenticidad del contenido es lo admisible como prueba. El perito debe documentar la metodología utilizada, las herramientas empleadas y las conclusiones con nivel de certeza. La LECrim (Arts. 456-485) regula la prueba pericial. Los tribunales españoles han admitido análisis forenses de contenido multimedia sintético.

P: Cuanto cuesta un análisis forense de contenido generado por GANs? R: Depende de la complejidad. Análisis de imagen única: 400-800 euros. Análisis de video (1-5 minutos): 800-1.500 euros. Análisis audio con espectrograma: 600-1.200 euros. Informe completo multimedia (imagen + audio + video) con ratificación judicial: 2.000-4.000 euros. El ROI suele ser alto cuando se evitan pérdidas de decenas de miles de euros por fraude.

P: Que diferencia hay entre un deepfake generado por GANs y uno generado por modelos de difusión? R: Los GANs utilizan entrenamiento adversarial (generador vs discriminador) y producen resultados rápidos pero pueden sufrir “mode collapse” (perdida de diversidad). Los modelos de difusión (Stable Diffusion, DALL-E) añaden y eliminan ruido progresivamente, produciendo resultados más diversos y estables pero más lentos. Los artefactos forenses son diferentes: las GANs dejan huellas frecuenciales periódicas, mientras los modelos de difusión presentan patrones de ruido gaussiano residual.

Conceptos relacionados

• Deepfake y detección: Técnicas específicas de detección de contenido sintético multimedia
• Espectrograma audio: Herramienta clave para detección de deepfakes de voz generados por GANs de audio
• Agentic AI: Sistemas de IA autónomos que pueden utilizar GANs como componente generativo
• BEC (Business Email Compromise): Fraude empresarial donde los deepfakes GAN se usan para suplantación de identidad

Referencias y fuentes

1. Goodfellow, I. et al. (2014). “Generative Adversarial Networks”. arXiv:1406.2661. arxiv.org

   • Paper original que introdujo la arquitectura GAN con entrenamiento adversarial

2. Resemble AI. Q1 2025 AI Deepfake Security Report (16 de abril de 2025) — es quien mide: «documented financial damages exceeding $200 million in Q1 2025 alone». Recopilación de incidentes graves, no censo de fraude; y la publica una empresa que vende detección de deepfakes. Difundido por Variety (17 abr 2025), que aporta el desglose: 41 % de los suplantados son figuras públicas y 34 % ciudadanos particulares; por regiones, Norteamérica 38 % y Asia 27 %.

3. American Bar Association. (2025). “The Rise of the AI-Cloned Voice Scam”. americanbar.org

   • 3 segundos de audio bastan para clonar una voz con ~85% de similitud

4. MDPI Applied Sciences. (2025). “Comprehensive Evaluation of Deepfake Detection Models”. mdpi.com

   • FaceForensics++: 97,7% precisión Deepfake, 91% Face2Face, 98,9% FaceSwap

5. arXiv. (2025). “Fourier-Based GAN Fingerprint Detection using ResNet50”. arxiv.org

   • ResNet50 en dominio frecuencial: 92,82% precisión y 0.95 AUC

6. INCIBE. (2026). “Balance ciberseguridad 2025: 122.223 incidentes (+26%)”. incibe.es

   • 122.223 ciberincidentes gestionados en España en 2025

7. Brightside AI. (2025). “Deepfake CEO Fraud: $50M Voice Cloning Threat”. brside.com

   • CEO fraud con deepfake ataca 400+ empresas diariamente

8. Tirant lo Blanch. (2025). “Deepfakes y responsabilidad penal”. tirant.com

   • Análisis jurídico del marco penal español para deepfakes

9. Observatorio del Derecho a la Ciudad. (2025). “España: sanción AEPD por deepfakes de menor”. observatoriociudad.org

   • Resolución AEPD noviembre 2025

10. Deloitte Center for Financial Services (29 may 2024). Generative AI is expected to magnify the risk of deepfakes and other fraud in banking. deloitte.com — proyecta que el fraude habilitado por IA generativa en Estados Unidos pase de 12.300 M$ en 2023 a 40.000 M$ en 2027 (CAGR del 32 %). Es una cifra estadounidense, no global.

11. PMC/NCBI. (2025). “Unmasking digital deceptions: deepfake detection review”. pmc.ncbi.nlm.nih.gov

    • Revisión integradora de detección deepfakes y ciberseguridad multimedia

Última actualización: 12 Febrero 2026 Categoría: Técnico (TEC-015) Nivel técnico: Avanzado Relevancia forense: MUY ALTA (tecnología base deepfakes 2026)