Por qué los modelos de OpenAI, Google y Anthropic son más convincentes pero se equivocan más

El principal problema de los mayores laboratorios de IA no es ahora que sus modelos suenen poco convincentes, sino que tras una presentación segura se esconden cada vez más errores de nivel superior. Durante los dos últimos años, OpenAI, Google y Anthropic han intentado resolverlo aumentando la computación durante la respuesta: añaden cadenas de razonamiento, búsqueda entre varias opciones, autoverificación y más tokens por consulta. Desde fuera parece un avance. Pero si el modelo base no se ha vuelto más preciso, el «pensamiento» adicional solo hace que sus errores sean más ordenados y verosímiles.

La idea de escalar la inferencia parece lógica. Si se da al modelo más tiempo y más pasos para resolver una tarea, debería equivocarse menos. En la práctica, este enfoque sí eliminó parte de los fallos superficiales: menos disparates factuales, menos respuestas que se desmoronan en la primera comprobación, menos fracasos en las demostraciones. Por eso los modelos de razonamiento causan tan buena impresión: hablan con más coherencia, estructuran mejor la respuesta y saben imitar un proceso de análisis cuidadoso. El problema es que la coherencia del texto y la fiabilidad de la conclusión no son lo mismo.

La diferencia se nota sobre todo entre las alucinaciones simples y las profundas. Una alucinación simple es una fecha inventada, un nombre confundido o un enlace inexistente. Todavía se puede detectar rápido. Un error estructural profundo es más peligroso: el modelo toma una premisa falsa, construye sobre ella una larga cadena lógica, añade un tono seguro y entrega una respuesta cohesionada y convincente. El usuario no ve caos, sino una falsedad pulcramente presentada. En tareas como analítica, preparación de documentos, programación, medicina o asesoría jurídica, este tipo de error es mucho más arriesgado que un fallo aleatorio corriente.

Las cifras también inquietan. En una comparación reciente, los grandes modelos de OpenAI mostraron en el benchmark SimpleQA una tasa de alucinaciones de alrededor del 50 %. Si una de cada dos respuestas a preguntas factuales sencillas es incorrecta o inventada, ya no se trata de un defecto cosmético, sino de una vulnerabilidad sistémica.

Es cierto que todo benchmark tiene límites: mucho depende de la formulación, de la metodología de evaluación y de la versión concreta del modelo. Pero la tendencia es reveladora. Los lanzamientos son cada vez más elocuentes y más costosos en computación, mientras que la fiabilidad profunda no crece al mismo ritmo, y a veces parece incluso empeorar.

En escenarios empresariales, eso basta para que un error se cuele sin ser notado en una presentación, un informe o una base de código.

La causa puede estar en el propio enfoque. La computación adicional en la fase de inferencia no crea conocimiento nuevo ni corrige las debilidades de los datos de entrenamiento. Solo obliga al modelo a buscar más tiempo la respuesta dentro de un espacio de representaciones ya existente. Si la imagen del mundo del modelo está distorsionada, una larga cadena de razonamiento no lo llevará necesariamente a la verdad. Al contrario, puede reforzar el efecto de autoconfirmación: el modelo revisa varias veces la misma hipótesis errónea con otras palabras y, con ello, hace el error aún más convincente.

El resultado es una paradoja: más computación reduce la probabilidad de un error tonto, pero aumenta el riesgo de un error bonito. Cuanto más seguro suena el sistema, menos probable es que el usuario se detenga a tiempo y revise la base del razonamiento.

De ahí se desprende una conclusión más amplia para el mercado. La amenaza para los líderes de la IA puede venir no solo de una nueva «supermodelo», sino de equipos capaces de construir sistemas más fiables sobre los modelos: con buen retrieval, anclaje en fuentes, calibración de la confianza, verificaciones rigurosas de hechos y una evaluación que mida no solo la fluidez, sino la veracidad. El ganador no será quien genere la respuesta más larga, sino aquel cuya respuesta sea digna de confianza en el trabajo real. Si la industria sigue confundiendo persuasión con inteligencia, la ventana de oportunidad para nuevos actores ya se ha abierto.