Astra de OpenAI: impresionante pero sobrevalorada, según Marcus, que encuentra entre 8 y 9 ideas equivocadas

Gary Marcus, profesor de ciencias cognitivas en NYU y uno de los críticos públicos más constantes del bombo en torno a la IA, ha publicado en Substack un análisis detallado del nuevo modelo Astra de OpenAI. Su veredicto es doble: tecnológicamente el modelo impresiona, pero en la comunicación pública está «inmensamente sobrevalorado», que es precisamente el título de la publicación.

Qué considera Marcus ideas equivocadas

Marcus enumera ocho o nueve errores habituales en la forma en que se describe e interpreta Astra: en la prensa técnica, entre los analistas y, a su juicio, en las comunicaciones de la propia OpenAI. Al final propone a los lectores un ejercicio: encontrar el «error más importante» de la lista, la trampa lógica clave sobre la que descansa toda la narrativa en torno al modelo.

• Autor: Gary Marcus, profesor de NYU, cofundador de Robust.AI y coautor del libro «Rebooting AI» (2019)
• Plataforma: Substack «Marcus on AI», con una audiencia de decenas de miles de suscriptores
• Valoración de Astra según Marcus: «amazing, but vastly oversold»
• Número de ideas equivocadas identificadas: 8–9

«Amazing — but vastly oversold», así resumió

Marcus Astra en el título, con un marco doble: el éxito técnico y la exageración de marketing existen a la vez.

El método característico de Marcus consiste en separar con rigor dos preguntas: «¿funciona el sistema en un escenario concreto?» y «¿posee las capacidades que se declaran públicamente?». En sus primeros análisis de GPT-4 y ChatGPT mostró cómo las demostraciones públicas convincentes generan de forma sistemática conclusiones infladas sobre la naturaleza y el alcance de las capacidades del modelo. Con Astra, a juzgar por sus formulaciones, se repite el mismo esquema.

Por qué es peligroso el bombo en torno a la IA

En la historia del bombo de la IA, la «sobrevaloración» se manifiesta en varios patrones estables: se pone el acento en casos de demostración seleccionados en lugar de pruebas sistemáticas; se atribuye a los sistemas la capacidad de «comprender» y «razonar» cuando en realidad se trata de pattern matching; y se ignoran las limitaciones que se hacen evidentes fuera de los escenarios controlados.

Para Astra, presentada como una nueva clase de asistentes de IA multimodales, esta crítica resulta especialmente pertinente: el revuelo en torno al lanzamiento moldea las expectativas de inversores, usuarios y reguladores mucho antes de que el sistema demuestre sus capacidades en condiciones reales y no de demostración.

Por qué Marcus sigue siendo un escéptico influyente

Marcus es uno de los pocos científicos con peso académico que ocupan de forma sistemática una posición crítica en el discurso público sobre la IA. En 2023 compareció ante un comité especializado del Senado de EE. UU. con argumentos a favor de regular los sistemas de IA. En el sector se le percibe de forma polarizada: unos lo consideran un contrapeso necesario al optimismo corporativo; otros le reprochan que subestima el progreso real.

«Ocho o nueve ideas equivocadas sobre Astra.

A ver si sois capaces de reconocer el error principal», escribe Marcus en el subtítulo, y convierte deliberadamente el análisis en un ejercicio de pensamiento crítico y no en una reseña informativa más.

Qué significa esto

El análisis de Marcus no niega el progreso de OpenAI: constata una brecha estructural entre la narrativa de marketing y las capacidades medibles. Las empresas se benefician del revuelo a corto plazo, pero las expectativas infladas erosionan la confianza en los logros reales. Saber distinguir estas dos capas se convierte en un requisito básico, por igual para inversores, periodistas y desarrolladores.