La IA en las empresas genera documentación tóxica y una nueva burbuja

El uso masivo de la IA en la gestión y el trabajo experto puede aportar no solo más eficiencia, sino también una nueva capa de riesgo sistémico. El problema es que los documentos corporativos parecen cada vez más convincentes incluso cuando por dentro se han acumulado errores, contradicciones y alucinaciones de los modelos.

Por qué es una burbuja

La comparación con la crisis hipotecaria de 2008 parte de una idea sencilla: el mercado confió durante mucho tiempo en la calidad de los activos porque estaban bien empaquetados y pasaban formalmente los controles. Algo parecido puede ocurrir con los documentos creados o ensamblados con ayuda de la IA. Directivos, inversores y expertos ven reglamentos, informes, políticas y descripciones de procesos impecables y los toman por un reflejo fiable de la realidad. Pero un orden aparente no garantiza que el conocimiento de partida fuera preciso, completo y coherente.

El peligro aumenta porque la documentación está a la vista y se percibe como el resultado del trabajo de la organización. Si el texto está bien escrito, estructurado y responde rápido a una consulta, el usuario casi no tiene motivos para dudar. Así, la confianza pasa del contenido a la forma. De ahí surge la burbuja de gestión: se toman decisiones basadas en artefactos que parecen mejores que los datos, la experiencia y los procesos de los que nacieron.

Cómo surge la toxicidad

Un documento tóxico no es necesariamente malo ni ilegible. Al contrario, puede ser lógico, pulcro y convincente, pero contener defectos ocultos: errores factuales, contradicciones internas, sustitución de términos o fórmulas rotundas donde la empresa no tiene información confirmada.

La IA multiplica la velocidad de producción de estos textos. Si antes las incongruencias se acumulaban durante semanas, ahora pueden multiplicarse en un solo sprint, pasando de las notas a las instrucciones y de ahí a las decisiones oficiales.

«Un documento puede ser tóxico: parecer lógico, pero contener errores,

contradicciones y alucinaciones de la IA».

En la práctica, la toxicidad rara vez se manifiesta en un fallo estruendoso; suele ser una cadena de distorsiones pequeñas y verosímiles. Un departamento toma un borrador de IA como base, otro copia las fórmulas en un reglamento, un tercero las traslada a un informe para la dirección. Después, el error ya no parece un fallo del modelo, sino un hecho corporativo confirmado.

Estas señales son especialmente peligrosas para los equipos que usan IA de forma intensiva en la gestión documental:

• Un reglamento describe un proceso y el documento contiguo exige acciones opuestas.
• Un informe incluye cifras exactas sin una fuente clara y sin responsable de los datos.
• La IA repite viejos errores de la base de conocimiento y los convierte en «norma».
• Las formulaciones suenan seguras, aunque encierran muchas suposiciones y conclusiones sin verificar.

Qué debe comprobar la empresa

Rara vez se encuentra como línea independiente el requisito formal de que «los documentos no se contradigan entre sí», pero la idea lleva tiempo integrada en los buenos sistemas de gestión de la calidad. De la lógica de ISO 9001, ITIL y BPM se deduce que la documentación de procesos debe ser coherente, actual y verificable. De lo contrario, la organización pierde control: los empleados reciben instrucciones distintas, las auditorías se apoyan en versiones desiguales de la verdad y los directivos no saben si el error está en la ejecución o en el propio papel.

Por eso ya no basta con revisar el estilo y la exhaustividad del texto. Hace falta control sobre los vínculos entre documentos: de dónde salió cada cifra, qué versión está vigente, quién se encarga de actualizarla y si las definiciones coinciden entre departamentos. Cuanto más participa la IA en la creación de materiales, más importan la edición, el cotejo con los datos primarios y la búsqueda periódica de conflictos entre documentos, y no solo dentro de un mismo archivo.

Qué significa

La IA sí ayuda a plasmar el conocimiento más rápido, pero también facilita la producción masiva de errores convincentes. Si las empresas no aprenden a comprobar la coherencia de los documentos con el mismo rigor con que juzgan su aspecto, la documentación «inteligente» puede convertirse fácilmente en fuente de falsa seguridad y malas decisiones.

La conclusión principal es simple: escribir se puede automatizar rápido, pero la responsabilidad sobre el sentido sigue recayendo en las personas.