Agentes de IA como 'colegas' de oficina: por qué esta es una metáfora defectuosa — MIT Technology Review

MIT Technology Review en su último número de la newsletters The Download discute la creciente moda de llamar a los agentes de IA "colegas" y "subordinados" — y advierte que tal metáfora crea confusión en el lugar de trabajo.

De dónde vino la metáfora del "colega de IA"

Durante los últimos dos años, los sistemas de IA con agentes — programas que realizan independientemente tareas multietapa en lugar de simplemente responder preguntas — han comenzado a aparecer en las empresas como "miembros separados del equipo". Desarrolladores como OpenAI, Anthropic, Microsoft y Salesforce promueven precisamente este marco: un agente recibe una lista de tareas, "reporta" sobre la finalización y se integra en chats de trabajo al igual que las personas.

A los empleados cada vez se les dice que ahora tienen un "nuevo colega" o "empleado digital" que se encarga de parte de la rutina — procesamiento de correos electrónicos, compilación de reportes, análisis de datos iniciales. La formulación es conveniente para los comercializadores: hace que el software abstracto sea comprensible y amigable. Pero detrás de la bonita metáfora hay una herramienta que no tiene ni reputación ni la capacidad de responsabilizarse por los errores.

Por qué esta sustitución de conceptos es peligrosa

Si un agente de IA se llama "colega", es psicológicamente más fácil para los empleados delegarle tareas sin revisión adecuada — como si llevara la misma responsabilidad por los resultados que una persona. En realidad, el error de un agente generalmente recae en el empleado humano asignado para trabajar con él para arreglarlo y explicarlo.

MIT Technology Review señala: cuanto más activamente integran las empresas herramientas de IA con agentes en los flujos de trabajo, más aguda se vuelve la pregunta — quién controla sus decisiones y cómo, ¿y el lenguaje antropomórfico difumina la zona real de responsabilidad por los resultados? Formalmente, el agente no tiene contrato de trabajo, período de prueba ni KPI — pero cada vez se describe a los usuarios internos en exactamente estos términos.

Lo que la historia de la automatización nos enseña

Cambios lingüísticos similares han ocurrido antes: los robots de fábrica se llamaban "cuellos de acero", y los primeros programas de centros de llamadas se llamaban "operadores virtuales". Cada vez una nueva metáfora ayudaba a vender tecnología más rápido dentro de una empresa y reducir la resistencia de los empleados. Pero estas herramientas anteriores no reclamaban igualdad en la jerarquía organizacional — no eran "contratadas" y no se incluían en listas de participantes del equipo del proyecto al igual que las personas, como ahora se hace con los agentes de IA.

MIT Technology Review señala que precisamente esta diferencia hace que la retórica actual sea particularmente riesgosa: el agente recibe un nombre, avatar y rol en un chat de trabajo, pero no se le da la capacidad de explicar por qué tomó una decisión particular, y no se le responsabiliza por las consecuencias. Toda la carga legal y de reputación en caso de fallo recae en la persona que "asignó" la tarea al agente o aprobó su resultado sin verificación.

Un cuadro similar se forma en la contratación: las descripciones de puestos cada vez más describen no simplemente "implementar herramientas de IA", sino trabajar "junto a un agente de IA" o "gestionar un equipo de personas y agentes". Formalmente, esto expande las responsabilidades de los empleados — ahora también son supervisor de un programa — pero en ningún lugar se especifica cómo evaluar este nuevo rol, cuánto tiempo toma y quién es responsable si el agente "subordinado" comete un error en datos confidenciales o correspondencia con clientes.

Qué significa esto

La disputa sobre palabras es en realidad una disputa sobre la gestión: mientras las empresas llamen a los agentes de IA "colegas" en lugar de programas, es más fácil no notar que el control y la responsabilidad de su trabajo sigue siendo responsabilidad de las personas.