Gary Marcus contra Nature: por qué los rumores sobre la llegada de la AGI son prematuros

Gary Marcus y sus colegas, Walter Quattrociocchi y Valerio Capraro, han criticado un artículo reciente en la prestigiosa revista Nature, que afirmaba haber logrado la inteligencia artificial general (AGI). Los autores de la publicación de respuesta insisten en que los éxitos impresionantes de los grandes modelos de lenguaje (LLM) en varios puntos de referencia e incluso en la resolución de problemas matemáticos complejos no constituyen evidencia de inteligencia genuina. En su opinión, los defensores de la idea de que la AGI existe están cometiendo un error fundamental, confundiendo la capacidad de realizar tareas estrechamente especializadas con la manifestación de una inteligencia verdaderamente general.

Este artículo es un llamado a mayor cautela en el uso de la terminología y a un análisis más profundo y significativo de lo que entendemos por el concepto de "inteligencia".

Recientemente, cada vez más personas han estado afirmando que la inteligencia artificial general ya existe. Quizá la afirmación más reciente y destacada sobre esto se encuentre en un artículo publicado en la revista Nature. Estas afirmaciones a menudo están alimentadas por logros impresionantes en el campo de los grandes modelos de lenguaje (LLM), cuyos resultados demuestran un alto desempeño en varios conjuntos de datos de prueba, funcionamiento fluido en diversos dominios y, en algunos casos, incluso soluciones correctas a problemas matemáticos abiertos. Estos desarrollos a menudo se consideran como prueba irrefutable de que la humanidad ha alcanzado el umbral de la inteligencia artificial general.

Sin embargo, como Marcus y sus coautores señalan acertadamente, tales interpretaciones se basan en una confusión fundamental entre los resultados de tareas individuales, a menudo bien estudiadas y estandarizadas, e inteligencia en sí misma. Realizar tareas individuales, incluso si demuestra resultados impresionantes, no puede considerarse evidencia suficiente de la presencia de inteligencia general. En su artículo, los autores muestran que los reclamos recientes sobre el logro de la AGI se basan en un error conceptual—confundir la aproximación estadística cada vez más compleja con la inteligencia en sí.

También argumentan que los reclamos recientes (por ejemplo, publicados por Chen et al., 2026) sobre el supuesto éxito en la creación de AGI dependen de redefinir lo que el término "IA" ha significado históricamente.

La idea principal que promueven los autores es que los LLM modernos, a pesar de sus sorprendentes capacidades, son esencialmente máquinas estadísticas muy sofisticadas. Se entrenan en vastos conjuntos de datos y aprenden a predecir la siguiente palabra o secuencia de palabras basándose en patrones probabilísticos. Esto les permite generar texto, responder preguntas e incluso resolver tareas que requieren cierto nivel de lógica o conocimiento.

Sin embargo, según Marcus y sus colegas, esto no significa que el modelo "entienda" la tarea en sentido humano o posea la capacidad de transferir conocimiento y habilidades a situaciones completamente nuevas e imprevisibles—un aspecto clave de la inteligencia general. Argumentan que esto se asemeja más a una forma avanzada de imitación o aproximación que al pensamiento genuino.

Las consecuencias de tal confusión pueden ser bastante significativas. Las afirmaciones prematuras sobre el logro de la AGI pueden llevar a un optimismo excesivo, una asignación incorrecta de recursos y, más importante aún, una subestimación de los problemas reales y desafíos asociados con la creación de inteligencia artificial genuina. También puede hacernos ser menos críticos con las capacidades y limitaciones de los sistemas de IA existentes, asumiendo que poseen un nivel de comprensión que en realidad no tienen. Además, puede frenar el progreso en la investigación orientada a crear sistemas más confiables, interpretables y verdaderamente inteligentes.

En conclusión, Gary Marcus y sus coautores hacen un llamado a la comunidad científica y al público en general a adoptar un enfoque más sobrio y crítico en la evaluación de los logros en el campo de la inteligencia artificial. Enfatizan que es importante distinguir entre las impresionantes capacidades estadísticas de los LLM e inteligencia genuinamente general, que implica la capacidad de razonar, aprender, adaptarse y comprender en un amplio espectro de contextos. Hasta que alcancemos tal nivel, los reclamos sobre la llegada de la AGI deben considerarse prematuros y basados en una interpretación errónea de los datos.