La economía de la AGI: los humanos serán verificadores y las máquinas asumirán el trabajo

Hablar de singularidad tecnológica dejó hace tiempo de ser cosa de escritores de ciencia ficción y futurólogos con canal de YouTube. Ahora se ocupan de ello economistas de las principales universidades del mundo, y sus conclusiones merecen atención. En el último número del boletín Import AI, una de las fuentes más autorizadas sobre investigación en inteligencia artificial, el tema central es un modelo de «economía de la AGI» propuesto por un grupo de investigadores del Instituto Tecnológico de Massachusetts, la Universidad de Washington en San Luis y la Universidad de California en Los Ángeles.

Su trabajo se resume en una fórmula sencilla pero inquietante: en un mundo donde la inteligencia artificial general se hace realidad, la inmensa mayoría del trabajo productivo pasa a las máquinas. El ser humano no desaparece de la ecuación económica, pero su papel cambia de raíz. En lugar de crear, las personas empiezan a comprobar. En lugar de producir, verifican. No es solo la automatización de tareas rutinarias: es una reconfiguración de la propia lógica de la división del trabajo, vigente durante milenios.

¿Por qué precisamente la verificación? La respuesta está en la asimetría fundamental entre crear y comprobar. Generar código, redactar un documento legal o diseñar una pieza son cosas que los sistemas de IA ya hacen con una velocidad impresionante. Pero asegurarse de que el resultado es correcto, seguro y se ajusta a las necesidades reales sigue exigiendo criterio humano. Los investigadores constatan lo que los profesionales del sector ya observan: los ingenieros escriben cada vez menos código desde cero y revisan cada vez más lo que propone Copilot o Claude. Los abogados revisan borradores de contratos generados por IA en lugar de redactarlos. El modelo del MIT y WashU simplemente extrapola esta tendencia hasta su límite lógico.

Pero aquí surge una paradoja que los autores, a juzgar por la descripción de su trabajo, reconocen. La verificación es una habilidad que se forma practicando la creación. Un cirujano puede evaluar la calidad de una operación porque ha realizado miles. Un programador detecta un error en el código generado porque durante años escribió código a mano. Si las nuevas generaciones de especialistas asumen directamente el papel de verificadores, sin pasar por una etapa de dominio práctico profundo, la calidad de la propia verificación se degradará inevitablemente. Eso crea una especie de trampa de competencias en la que economistas y responsables políticos deberían empezar a pensar ya.

El mismo número de Import AI plantea otros dos temas que completan el cuadro. El primero es el uso de entornos de juego generados de forma procedimental para probar sistemas de IA. La idea es que los benchmarks estáticos se quedan obsoletos rápido y los modelos acaban «memorizándolos», mientras que los escenarios de juego creados dinámicamente permiten evaluar la verdadera capacidad de generalización y adaptación. Es un cambio metodológico importante: la industria empieza a entender que la inteligencia de una máquina no debe medirse con pruebas, sino por su capacidad de enfrentarse a lo inesperado.

El segundo tema es el concepto de «ecologías de agentes», es decir, sistemas en los que numerosos agentes de IA autónomos interactúan, compiten y cooperan. Si la economía de la AGI describe la relación entre humanos y máquinas, las ecologías de agentes describen la relación de las máquinas entre sí. Es el siguiente nivel de complejidad, en el que la previsibilidad del comportamiento de un agente individual aún no garantiza la del sistema entero. Los efectos emergentes en estas ecologías pueden ser tanto productivos como peligrosos, y esto conecta directamente con la seguridad de la IA.

Juntos, estos tres temas componen un cuadro coherente y bastante aleccionador. Avanzamos hacia un mundo en el que las máquinas producen, las personas verifican y entre las máquinas se forman sus propios ecosistemas de interacción. No es una utopía ni una distopía: es una nueva realidad económica cuyos contornos ya se perciben hoy.

La cuestión no es si llegará, sino si lograremos preparar las instituciones, la educación y los marcos regulatorios que permitan a las personas conservar no solo el empleo, sino una agencia genuina en este nuevo mundo. Los investigadores del MIT, WashU y UCLA, al menos, plantean las preguntas correctas. Las respuestas tendremos que buscarlas entre todos, y conviene hacerlo antes de que la economía de la AGI sea un hecho consumado.