La RSI se convierte en la nueva meta de los laboratorios de IA, pero su definición sigue siendo difusa

La automejora recursiva desplaza rápidamente a la AGI en las agendas de los laboratorios de IA. El concepto sigue siendo tan difuso y esquivo como su predecesor.

Qué es la RSI

La RSI (Recursive Self-Improvement) es la capacidad hipotética de un sistema de IA de analizar y mejorar su propio código sin intervención humana. El sistema se vuelve cada vez más potente y capaz, hasta alcanzar un punto en el que la humanidad ya no puede controlarlo ni entender qué ha ocurrido exactamente.

En teoría suena simple y lógico: mejorar es trabajar más rápido, con más precisión, más eficiencia y más fiabilidad. En la práctica, resulta extremadamente difícil decir si un sistema ha mejorado de verdad o simplemente se siente más seguro de sus capacidades. ¿Cómo distinguir el progreso real de la ilusión de progreso? ¿Quién lo verifica?

Por qué la AGI cede el paso a la RSI

Hace unos años, la AGI parecía el final inevitable del desarrollo de la IA: una inteligencia artificial general, similar a la humana y universal, capaz de resolver cualquier tarea al nivel de una persona o por encima. Pero la definición era demasiado nítida e inalcanzable, como un horizonte. Década tras década, la AGI se alejaba más hacia el futuro.

La RSI propone otro camino. No hace falta esperar a la AGI; basta con que el sistema aprenda a mejorarse por sí mismo. Es una meta intermedia que parece a la vez más realista y, para inversores y políticos, más inquietante.

Las ventajas de la RSI son evidentes:

• Una meta intermedia más realista que la AGI
• Es más fácil convencer a los inversores de que el proyecto es viable
• No obliga a esperar otras dos o tres décadas
• Se puede empezar ya con pequeños pasos de automejora
• Parece menos amenazadora que la AGI

Por eso incluso los laboratorios conservadores han pasado a la RSI en sus planes a largo plazo y en sus declaraciones públicas.

El problema de la definición (que nadie resuelve)

Parecería que todo es sencillo y claro. Pero aquí empiezan los problemas. Un investigador habla de automejora mediante la optimización de los pesos de la red neuronal. Otro se refiere a la depuración automática del código y la corrección de errores. Un tercero, a reconstruir por completo la arquitectura del modelo. Un cuarto dice simplemente que el sistema mejora en su tarea principal.

Todos tienen razón, pero cada uno habla de cosas completamente distintas. Y todos lo llaman con la misma palabra: RSI.

«Cada uno entiende algo distinto por RSI.

Es exactamente lo que pasaba con la AGI hace diez años: un riesgo existencial de algo que nadie sabe definir».

Cuando la definición es difusa, es imposible fijar objetivos concretos, medir el progreso o incluso evaluar el riesgo real. Los laboratorios hablan de la RSI como si fuera una única meta y una única línea de llegada, cuando en realidad se trata de diez proyectos distintos con un mismo nombre.

Qué significa esto

La RSI no es una mala intención ni una conspiración, sino una señal honesta de que los laboratorios de IA necesitan un hito intermedio entre los LLM actuales y la AGI filosófica. La historia se repite: cuando una meta imprecisa (la AGI) se vuelve inalcanzable, nace otra (la RSI). La pregunta sigue siendo la misma: ¿cómo medir algo que no está definido? ¿Cómo gestionar los riesgos de algo que puede significar cualquier acción?

Por ahora no hay una respuesta mejor. Mientras tanto, los laboratorios hablan de la RSI como si ya fuera un problema resuelto.