Дизайнер приравняла AI-агентов к медицинским посредникам, а не к пользователям
На Habr дизайнер поспорила с Nielsen Norman Group: AI-агенты это не новые пользователи, а посредники. Как медсестра между врачом и пациентом. Разница принципиал
Esta semana en Habr se desarrolló una discusión sobre quiénes deberían considerarse agentes de IA en el diseño de interfaces. Kiara Pellegrini de Nielsen Norman Group propuso una lógica simple: un agente tiene objetivos, interactúa con la interfaz, intenta lograrlos. Por lo tanto, es un usuario. Pero una diseñadora UX con ocho años de experiencia médica discrepa: esto no es solo una imprecisión en la definición, sino una incomprensión profunda de la arquitectura.
Por Qué un Agente No Es un Usuario
Un agente hace clic en botones, completa campos, obtiene resultados — como un usuario. Pero hay una diferencia crítica en motivación y responsabilidad. Un usuario actúa para sí mismo. Un agente actúa para usted, representando sus objetivos a través de la interpretación. Esto transforma toda la dinámica de la interacción con la interfaz. Cuando un diseñador diseña para un usuario, crea un canal de acceso directo: una persona ve algo, lo entiende, actúa. Un error es su error de comprensión o atención. Cuando un intermediario entra en la cadena, aparecen nuevos puntos de fallo. Un agente puede malinterpretar su intención, puede olvidar el contexto, puede encontrarse con una excepción y no saber cómo responder.
La Medicina Conoce Esta Cuestión desde Hace un Siglo
Una enfermera en un hospital es un intermediario clásico. Un médico escribe una receta, la enfermera la ejecuta, el paciente recibe el medicamento. Cada nivel puede distorsionar la información: el médico escribe la dosis de forma poco clara, la enfermera la lee incorrectamente, el paciente olvida la instrucción. Por eso la medicina ha desarrollado toda una cultura de seguro contra errores:
- Verificación doble de procedimientos críticos
- Formularios estandarizados y protocolos en lugar de texto libre
- Señales de alerta cuando se producen desviaciones de la norma
- Documentación obligatoria de cada paso
- Canales de retroalimentación claros entre niveles
El resultado: la medicina diseña no para un intermediario ideal, sino para uno real que puede cometer errores.
Qué Significa Esto para el Diseño de Interfaces
Si reconocemos un agente como un intermediario, no como un usuario, entonces la tarea del diseñador cambia. Necesitamos interfaces que no solo "funcionen", sino que funcionen de manera confiable incluso cuando el intermediario comete errores o no comprende completamente el contexto. Esto significa confirmaciones explícitas antes de acciones críticas, registro detallado de cada paso, la capacidad de deshacer operaciones y garantizar que el agente pueda leer el estado en cada etapa. Hoy, la mayoría de las interfaces están diseñadas para interacción directa humana. Cuando lanzas un agente en ellas, a menudo se rompen. Porque no hay seguro contra que el intermediario malinterprete el acuerdo silencioso del diseño.