Mucho antes de que el término deepfake se popularizara, Hany Farid ya buscaba una forma de detectar con precisión matemática cuándo una imagen había sido…
Mucho antes de que el término deepfake se popularizara, Hany Farid ya buscaba una forma de detectar con precisión matemática cuándo una imagen había sido alterada. Hoy, desde su laboratorio en Berkeley, su trabajo se ha convertido en una pieza clave frente a una amenaza que crece al ritmo de la inteligencia artificial generativa.
La pregunta que abrió el camino
A comienzos de los años 2000, modificar una fotografía digital exigía tiempo, software especializado y suficiente descuido como para dejar rastros visibles. Farid, entonces profesor en Dartmouth College, se propuso que la ciencia forense no dependiera solo del ojo experto, sino de métodos sistemáticos para identificar esas huellas. Su desafío era concreto: demostrar con matemáticas que una imagen había sido manipulada.
Esa respuesta no llegó de inmediato. Tardó años en construirse, y mientras tanto la tecnología avanzó hasta permitir que los modelos de inteligencia artificial generen en segundos un video convincente de cualquier persona diciendo cualquier cosa.
Las señales que no se ven a simple vista
Los deepfakes actuales ya no se parecen al Photoshop de décadas pasadas. No suelen delatarse con un píxel fuera de lugar o una sombra mal orientada. Modelos basados en redes generativas antagónicas (GAN) y, más recientemente, en modelos de difusión, aprenden a imitar la realidad estadística a partir de millones de imágenes, hasta producir contenido sintético que supera con facilidad el umbral de la percepción humana.
La clave, según ese enfoque forense, no está en lo que se observa directamente, sino en lo que el sistema generativo no logra reproducir por completo. Las inconsistencias suelen ser físicas y estadísticas. Por ejemplo, los reflejos en los ojos de una persona real obedecen leyes ópticas precisas que no siempre se replican de manera coherente. También el parpadeo, la geometría del rostro y la forma en que la luz rebota en el espacio tridimensional pueden revelar anomalías medibles para un algoritmo entrenado.
Ese es el terreno de Farid: la intersección entre física, estadística y visión artificial.
Detectar la ausencia de lo real
El trabajo de su laboratorio no intenta identificar directamente lo falso, sino reconocer la ausencia de propiedades propias de lo auténtico. Sus detectores analizan las características estadísticas invariables de las imágenes captadas por sensores de hardware y buscan desviaciones en el material sospechoso.
Cada cámara digital introduce patrones de ruido específicos, determinados por el sensor de silicio y el procesamiento interno del dispositivo, conocidos como ruido de patrón fijo o PRNU. Un video real también muestra una cadencia de movimiento ocular y de pulso capilar vinculada a estímulos biológicos verificables. Del mismo modo, una cara auténtica proyecta sombras que responden a una sola fuente de luz coherente en un espacio tridimensional.
Cada una de esas señales funciona como una firma estructural que los modelos generativos aún no logran falsificar de forma perfecta y simultánea.
De la academia a la defensa pública
Con el paso del tiempo, el trabajo de Farid trascendió el ámbito universitario. Ha colaborado con organismos de aplicación de la ley, plataformas digitales y entidades gubernamentales en el desarrollo de sistemas de autenticación de contenidos. También ha testificado ante el Congreso de los Estados Unidos sobre los riesgos estructurales de la desinformación basada en medios sintéticos.
Una carrera sin punto final
Farid ha señalado una paradoja central en este campo: cada avance en detección impulsa, de forma inevitable, nuevos avances en generación. Cuando un detector se hace público, los desarrolladores de modelos posteriores incorporan ese conocimiento. La dinámica se parece a una carrera armamentística aplicada a la información.
Además, los detectores son reactivos por naturaleza. No pueden anticipar una arquitectura generativa que todavía no ha sido entrenada. A eso se suma el llamado dividendo del mentiroso: cuando la gente asume que la inteligencia artificial puede falsificar con facilidad cualquier video o audio, quienes difunden contenidos engañosos obtienen una coartada para negar pruebas reales y sembrar dudas en tribunales y en la opinión pública.
Eso no vuelve inútil la investigación, pero sí obliga a fijar metas más precisas: elevar el costo técnico de producir contenido sintético indetectable, imponer fricción computacional a los atacantes y construir una infraestructura paralela de autenticación.
Los límites actuales de la detección
La ciencia forense digital todavía tiene restricciones claras. Los sistemas actuales alcanzan buena precisión frente a modelos generativos conocidos o antiguos, pero el margen de error aumenta cuando enfrentan arquitecturas nuevas o técnicas que no estuvieron en su entrenamiento. La capacidad de generalización entre distintas familias de redes neuronales sigue siendo un problema abierto.
También existe el reto de la escala. Los deepfakes dejaron de ser una curiosidad de laboratorio y hoy circulan en volúmenes demasiado altos para que un sistema centralizado los revise en tiempo real en una red social. A eso se suma el riesgo de los falsos positivos: un detector imperfecto puede desacreditar documentos legítimos, afectar a periodistas o testigos en zonas de conflicto y erosionar la confianza en archivos públicos.
Por eso, la transparencia sobre los márgenes de error resulta tan importante como la sensibilidad del propio detector.
La apuesta por el origen
Ante estos desafíos, la línea más prometedora apunta a un complemento de la detección posterior: la autenticación del origen y el uso de criptografía para verificar la procedencia del contenido. En ese enfoque, el objetivo no es solo descubrir lo falso después de que circula, sino dejar trazabilidad verificable desde el inicio.
Para Farid, la carrera contra los deepfakes no tiene una meta definitiva. Sí tiene, en cambio, una necesidad urgente: desarrollar herramientas capaces de defender la integridad de la información en un entorno donde la falsificación digital avanza con rapidez.
