Verus-Insight enseña a un detector de vídeo generado por IA a encontrar artefactos y demostrarlos

Los detectores de vídeo generado todavía explican mal sus veredictos. El equipo de Verus-Insight dividió la tarea en tres habilidades independientes y entrenó un modelo que no se limita a nombrar la fuente de un clip, sino que muestra los artefactos en los que basa su decisión. Junto con el modelo se publicó Verus-Bench, un benchmark en el que los artefactos perceptibles para una persona están anotados a mano y con gran detalle.

El problema lo conoce cualquiera que haya intentado cazar contenido sintético. Los generadores de vídeo son cada vez más realistas, y los defectos groseros, como dedos que se deforman o texturas que parpadean, aparecen con menos frecuencia. Los detectores actuales basados en artefactos buscan esos rastros y los usan como prueba para determinar la fuente. Este enfoque tiene dos puntos débiles. El primero: el detector pasa por alto artefactos sutiles. El segundo, más molesto: puede llegar a la respuesta correcta («esto lo generó tal modelo») sin señalar ninguna prueba real. El veredicto es correcto, pero la justificación es ficticia. Para moderación e investigaciones, una respuesta así es casi inútil.

Tres habilidades en lugar de un solo veredicto

Los autores describen la detección como un proceso estructurado con tres capacidades complementarias:

• Inspection Planning: decidir qué conviene examinar en el vídeo, es decir, qué zonas, objetos o fragmentos de movimiento.
• Evidence Verification: comprobar que el fragmento elegido contiene realmente un artefacto de generación y no una peculiaridad de la grabación, la compresión o el montaje.
• Evidence Aggregation: reunir las pruebas confirmadas en una decisión final sobre el origen del vídeo.

Esta división resulta útil porque cada paso puede evaluarse por separado. Si el detector falla, se ve dónde: no miró donde debía, miró pero no reconoció el artefacto, o lo reconoció pero combinó mal el cuadro completo. El análisis posterior mostró que las tres habilidades se complementan, pero no se reducen una a otra; es decir, mejorar una no aporta automáticamente mejoras en las demás.

Entrenamiento con el humano en el circuito

Verus-Insight se entrenó con un esquema de human-anchored full-process supervision: la anotación humana ancla a observaciones reales todo el proceso, desde la elección de los puntos de inspección hasta la decisión final, y no solo la etiqueta de salida. Además se aplicó progressive capability training, un refuerzo gradual de las habilidades. El objetivo es doble: mejorar la búsqueda de artefactos pequeños y la precisión de la clasificación del vídeo completo.

Otro valor del trabajo es Verus-Bench. La mayoría de los datasets de detección solo ofrecen la etiqueta «real o generado». Aquí hay una anotación detallada de los artefactos perceptibles, de modo que se puede comprobar si el modelo encuentra lo que ve una persona y no se limita a adivinar la respuesta.

Qué mostraron los experimentos

Según los resultados en distintos benchmarks, Verus-Insight obtiene un rendimiento sólido tanto en el análisis fino de artefactos como en la detección de vídeo generado. La mejora es especialmente notable en la recuperación de artefactos que las personas sí detectan. El argumento principal de los autores es que el modelo convierte con más fiabilidad los objetivos de inspección relevantes en pruebas confirmadas, sin que aumente el número de afirmaciones falsas sobre artefactos. Esto importa: un detector que acusa de todo consigue fácilmente una recall alta y se vuelve inútil en la práctica.

Dónde puede resultar útil

Para plataformas y redacciones, el valor está en la explicabilidad. Un moderador o un verificador de datos no necesita un porcentaje de confianza, sino una indicación concreta: aquí está el fotograma, aquí la distorsión, y por esto es un indicio de generación. La estructura «plan, verificación, agregación» encaja bien con el flujo de trabajo de un analista humano y permite pasarle los hallazgos intermedios.

Para quienes desarrollan detectores, aparece una vara de medir mejor que la precisión habitual: Verus-Bench permite comprobar si el modelo se apoya en pruebas reales o en pistas estadísticas, como los rastros del códec. Para quienes desarrollan generadores, el benchmark también sirve como mapa de defectos sutiles que las personas todavía detectan y que conviene eliminar.

La limitación es evidente para todo el campo: el conjunto de artefactos está ligado a la generación actual de generadores. Con los nuevos modelos las pruebas cambiarán y habrá que actualizar la anotación. Aun así, el enfoque en sí, en el que el veredicto debe respaldarse con pruebas verificadas y no solo con una etiqueta correcta, parece un estándar viable para la próxima generación de detectores.