DetectorScope convierte la caja negra de los detectores de texto de IA en un sistema transparente

Los detectores de texto de IA se usan hoy en decisiones que afectan a personas: revisión de artículos científicos, calificaciones universitarias, comités de admisión, redacciones y moderación de contenido. Los más potentes son clasificadores neuronales con fine-tuning, y su veredicto no se puede explicar. Las alternativas transparentes, basadas en estilometría y rasgos lingüísticos, son claramente menos precisas.

Un equipo de investigadores formado por Liam Dugan, Callum McDougall, Matthew Denton, Philip Pham, Kristina Keser-Chen y Chris Callison-Burch propone evitar esa disyuntiva. Su pipeline DetectorScope toma un detector ya entrenado y construye encima un clasificador basado en conceptos legibles para humanos. El artículo ha sido aceptado en el programa principal de EMNLP 2026 y el código está publicado en el repositorio google-deepmind/detectorscope.

Cinco pasos de la caja negra a la auditoría

La idea se apoya en los autoencoders dispersos (SAE), una herramienta de interpretabilidad que descompone las activaciones internas de un modelo en rasgos individuales. Los autores no la aplicaron a un modelo de lenguaje de propósito general, sino al propio detector. El pipeline es el siguiente:

• Entrenamiento de SAE. Los autoencoders se entrenan directamente sobre el residual stream del detector neuronal con fine-tuning.
• Autointerpretación. A cada feature del SAE se le asigna automáticamente una descripción textual de lo que detecta en el texto.
• Filtro de fidelidad. Solo se conservan las features cuyas descripciones generadas superan un umbral global de fiabilidad. Todo lo que no se logró describir de forma convincente se descarta.
• Clasificador ligero. Con las features interpretables seleccionadas se entrena un modelo sencillo, que es el que emite el veredicto final.
• Auditoría. Para cualquier decisión se puede ver qué conceptos se activaron y por qué el texto se consideró generado por una máquina o escrito por una persona.

El filtro por umbral es aquí fundamental. Las etiquetas automáticas de las features pueden ser atractivas y, aun así, erróneas, y sin verificación la auditoría se convertiría en una ilusión de transparencia. La exigencia de fiabilidad global deja en el clasificador final únicamente los rasgos en los que se puede confiar.

Qué se encontró dentro del detector

El resultado central es que los SAE extraen conceptos ocultos que se corresponden con «marcadores» lingüísticos concretos y predictivos del texto de IA. No se trata de nociones abstractas como «suavidad estilística» o «alta perplejidad», sino de señales lingüísticas específicas que un analista puede leer, contrastar con ejemplos y cuestionar. Para el revisor de una revista o para un profesor, es la diferencia entre «el sistema dijo 94%» y «el sistema encontró estas construcciones».

En cuanto a la precisión, los autores señalan dos conclusiones. Los detectores auditables conservan la calidad de la caja negra original tanto con datos de la misma distribución como con textos fuera de distribución. Además, los clasificadores basados en las features extraídas obtienen en textos out-of-distribution mejores resultados que las alternativas neuronales y estilométricas. Es la zona más delicada de la detección: los generadores cambian rápido y los detectores entrenados con modelos antiguos fallan con los nuevos.

Conviene tener en cuenta también la otra cara. Los rasgos comprensibles facilitan no solo la auditoría, sino también la evasión: quien sepa en qué «marcadores» se apoya el detector puede eliminarlos del texto. Es el coste habitual de la transparencia, y habrá que abordarlo con políticas de uso, no solo con arquitectura.

Cómo aplicarlo

Para los equipos que ya usan detectores en la revisión de trabajos, la selección de revisores o la moderación, DetectorScope describe un camino viable: no cambiar el modelo, sino añadirle encima una capa de explicaciones. El método está planteado para cualquier detector, de modo que las soluciones existentes no hay que reemplazarlas desde cero.

Las consecuencias prácticas son claras. Los casos dudosos se pueden analizar a partir de la lista de rasgos activados, y no de un único valor de probabilidad. Los errores sistemáticos, por ejemplo el sesgo contra autores que no escriben en su lengua materna, son más fáciles de detectar cuando se ve qué conceptos inclinan el veredicto. Y para reguladores y organizaciones que deben documentar decisiones automatizadas sobre personas, un detector auditable aporta algo que se puede adjuntar a un informe.

El código es abierto, así que el método puede probarse con datos y detectores propios. Será en esas pruebas donde se vea hasta qué punto las descripciones de los rasgos se mantienen estables entre dominios e idiomas.