Una diseñadora equipara a los agentes de IA con intermediarios médicos, no con usuarios

Esta semana se desarrolló en Habr una discusión sobre cómo clasificar a los agentes de IA en el diseño de interfaces. Kiara Pellegrini, de Nielsen Norman Group, propuso una lógica sencilla: un agente tiene objetivos, interactúa con una interfaz e intenta lograrlos. Por tanto, es un usuario. Pero una diseñadora UX con ocho años de experiencia como médica discrepa: no es solo una definición imprecisa, sino una profunda incomprensión de la arquitectura.

Por qué un agente no es un usuario

Un agente hace clic en botones, rellena campos y obtiene resultados, igual que un usuario. Pero existe una diferencia crítica en motivación y responsabilidad. El usuario actúa por sí mismo. El agente actúa por usted, representando sus objetivos mediante la interpretación. Esto transforma toda la dinámica de interacción con la interfaz.

Cuando un diseñador diseña para un usuario, crea un canal de acceso directo: la persona ve algo, lo entiende y actúa. El error es suyo, de comprensión o de atención. Cuando un intermediario entra en la cadena, aparecen nuevos puntos de fallo. Un agente puede leer mal su intención, puede olvidar el contexto y puede toparse con una excepción sin saber cómo reaccionar.

La medicina conoce esta cuestión desde hace un siglo

Una enfermera en un hospital es un intermediario clásico. El médico receta, la enfermera lo ejecuta y el paciente recibe el medicamento. Cada nivel puede distorsionar la información: el médico escribió la dosis de forma poco clara, la enfermera la leyó mal, el paciente olvidó las instrucciones. Por eso en la medicina se desarrolló toda una cultura de aseguramiento frente a errores:

• Doble verificación de los procedimientos críticos
• Formularios y protocolos estandarizados en lugar de texto libre
• Alarmas ante desviaciones de la norma
• Documentación obligatoria de cada paso
• Canales claros de retroalimentación entre niveles

El resultado: la medicina no diseña para un intermediario ideal, sino para uno real, que puede equivocarse.

Qué significa esto para el diseño de interfaces

Si se reconoce al agente como intermediario y no como usuario, la tarea del diseñador cambia. Hacen falta interfaces que no solo "funcionen", sino que lo hagan de forma fiable incluso cuando el intermediario se equivoca o no entiende del todo el contexto. Eso implica confirmaciones explícitas antes de acciones críticas, registro detallado de cada paso, la posibilidad de revertir una operación y que el estado sea legible para el agente en cada etapa.

Hoy la mayoría de las interfaces están diseñadas para la interacción humana directa. Cuando se les lanza un agente, a menudo se rompen, porque no hay protección frente a que el intermediario malinterprete el acuerdo tácito del diseño.