Дизайнер приравняла AI-агентов к медицинским посредникам, а не к пользователям
На Habr дизайнер поспорила с Nielsen Norman Group: AI-агенты это не новые пользователи, а посредники. Как медсестра между врачом и пациентом. Разница принципиал
Esta semana no Habr, desenvolveu-se uma discussão sobre quem deveria ser considerado agentes de IA no design de interfaces. Kiara Pellegrini do Nielsen Norman Group propôs uma lógica simples: um agente tem objetivos, interage com a interface, tenta alcançá-los. Portanto, é um usuário. Mas uma designer UX com oito anos de experiência médica discorda: isso não é apenas uma imprecisão na definição, mas uma compreensão profunda equivocada da arquitetura.
Por Que um Agente Não É um Usuário
Um agente clica em botões, preenche campos, obtém resultados — como um usuário. Mas há uma diferença crítica em motivação e responsabilidade. Um usuário age para si mesmo. Um agente age para você, representando seus objetivos através da interpretação. Isso transforma toda a dinâmica da interação com a interface. Quando um designer projeta para um usuário, ele cria um canal de acesso direto: uma pessoa vê algo, entende, age. Um erro é seu erro de compreensão ou atenção. Quando um intermediário entra na cadeia, novos pontos de falha aparecem. Um agente pode interpretar mal sua intenção, pode esquecer o contexto, pode encontrar uma exceção e não saber como reagir.
A Medicina Conhece Essa Questão há um Século
Uma enfermeira em um hospital é um intermediário clássico. Um médico escreve uma prescrição, a enfermeira a executa, o paciente recebe o medicamento. Cada nível pode distorcer a informação: o médico escreve a dose de forma pouco clara, a enfermeira lê incorretamente, o paciente esquece a instrução. É por isso que a medicina desenvolveu uma cultura inteira de seguro contra erros:
- Dupla verificação de procedimentos críticos
- Formulários padronizados e protocolos em vez de texto livre
- Sinais de alerta quando ocorrem desvios da norma
- Documentação obrigatória de cada etapa
- Canais claros de feedback entre níveis
O resultado: a medicina projeta não para um intermediário ideal, mas para um real que pode cometer erros.
O Que Isso Significa para o Design de Interfaces
Se reconhecermos um agente como um intermediário, não como um usuário, então a tarefa do designer muda. Precisamos de interfaces que não apenas "funcionem", mas funcionem de forma confiável mesmo quando o intermediário comete erros ou não compreende totalmente o contexto. Isso significa confirmações explícitas antes de ações críticas, registro detalhado de cada etapa, a capacidade de reverter operações e garantir que o agente possa ler o estado em cada estágio. Hoje, a maioria das interfaces é projetada para interação direta com humanos. Quando você coloca um agente nelas, frequentemente quebram. Porque não há seguro contra o intermediário compreender mal o acordo silencioso do design.