RSI se ha convertido en el nuevo objetivo de los laboratorios de IA, pero su definición sigue siendo borrosa

La mejora recursiva autónoma está desplazando rápidamente a la AGI de las agendas de los laboratorios de IA. El concepto sigue siendo tan borroso e inaprensible como su predecesora.

Qué es RSI

RSI (Recursive Self-Improvement) es la capacidad hipotética de un sistema de IA de analizar y mejorar su propio código sin intervención humana. El sistema se vuelve cada vez más poderoso y capaz, hasta alcanzar un punto en el que la humanidad ya no podrá controlarlo o entender qué sucedió exactamente.

En teoría, suena simple y lógico: mejorar significa funcionar más rápido, con más precisión, eficiencia y confiabilidad. En la práctica, es extremadamente difícil determinar si el sistema realmente mejoró o simplemente se sintió más confiado en sus capacidades. ¿Cómo distinguir el verdadero progreso de la ilusión de desarrollo? ¿Quién lo verifica?

Por qué RSI está reemplazando a AGI

Hace unos años, AGI parecía ser el resultado inevitable del desarrollo de la IA. La inteligencia artificial general — humanoide y universal, capaz de resolver cualquier tarea al nivel humano o superior. Pero la definición era demasiado clara e inalcanzable, como el horizonte. Década tras década, AGI se alejaba cada vez más en el futuro.

RSI ofrece un camino diferente. No es necesario esperar a AGI — es suficiente que el sistema aprenda a mejorarse a sí mismo de manera autónoma. Es un objetivo intermedio que parece simultáneamente más realista y más aterrador para inversores y políticos.

Las ventajas de RSI son evidentes:

• Un objetivo intermedio más realista que AGI
• Es más fácil convencer a los inversores de la viabilidad del proyecto
• No requiere esperar otros dos o tres décadas
• Se puede comenzar con pequeños pasos de mejora autónoma ahora
• Se ve menos amenazante que AGI

Es por eso que incluso los laboratorios conservadores han cambiado a RSI en sus planes a largo plazo y declaraciones públicas.

El problema de la definición (que nadie resuelve)

Parecería que todo es simple y claro. Pero aquí es donde comienzan los problemas. Un investigador habla de mejora autónoma a través de la optimización de pesos de la red neuronal. Otro se refiere a la depuración automática de código y corrección de errores. Un tercero, a la reconstrucción completa de la arquitectura del modelo. Un cuarto simplemente dice que el sistema se vuelve mejor en su tarea principal. Cada uno de ellos tiene razón, pero cada uno está hablando de cosas completamente diferentes. Y sin embargo, todos lo llaman con una palabra: RSI.

«Cada uno entiende cosas diferentes bajo RSI.

Esto es exactamente lo que sucedió con AGI hace diez años — un riesgo existencial de algo que nadie puede definir».

Cuando la definición es borrosa, se vuelve imposible establecer objetivos concretos, medir el progreso o incluso evaluar el riesgo real. Los laboratorios hablan de RSI como si fuera un objetivo único y un punto de llegada único, pero en realidad se trata de diez proyectos diferentes que se llaman con el mismo nombre.

Lo que significa

RSI no es un plan malévolo ni una conspiración, sino una señal honesta de que los laboratorios de IA necesitan un hito intermedio entre los LLM de hoy y la AGI filosófica. La historia se repite: cuando un objetivo indefinido (AGI) se vuelve inalcanzable, surge otro (RSI). La pregunta sigue siendo la misma: ¿cómo medir algo que no está definido? ¿Cómo gestionar riesgos de algo que puede significar cualquier cosa? Por ahora, no hay una respuesta mejor a esta pregunta. Mientras tanto, los laboratorios hablan de RSI como si fuera un problema ya resuelto.