Designer equiparou agentes de IA a intermediários médicos, e não a usuários

Esta semana no Habr, desenvolveu-se uma discussão sobre quem deveria ser considerado agentes de IA no design de interfaces. Kiara Pellegrini do Nielsen Norman Group propôs uma lógica simples: um agente tem objetivos, interage com a interface, tenta alcançá-los. Portanto, é um usuário. Mas uma designer UX com oito anos de experiência médica discorda: isso não é apenas uma imprecisão na definição, mas uma compreensão profunda equivocada da arquitetura.

Por Que um Agente Não É um Usuário

Um agente clica em botões, preenche campos, obtém resultados — como um usuário. Mas há uma diferença crítica em motivação e responsabilidade. Um usuário age para si mesmo. Um agente age para você, representando seus objetivos através da interpretação. Isso transforma toda a dinâmica da interação com a interface. Quando um designer projeta para um usuário, ele cria um canal de acesso direto: uma pessoa vê algo, entende, age. Um erro é seu erro de compreensão ou atenção. Quando um intermediário entra na cadeia, novos pontos de falha aparecem. Um agente pode interpretar mal sua intenção, pode esquecer o contexto, pode encontrar uma exceção e não saber como reagir.

A Medicina Conhece Essa Questão há um Século

Uma enfermeira em um hospital é um intermediário clássico. Um médico escreve uma prescrição, a enfermeira a executa, o paciente recebe o medicamento. Cada nível pode distorcer a informação: o médico escreve a dose de forma pouco clara, a enfermeira lê incorretamente, o paciente esquece a instrução. É por isso que a medicina desenvolveu uma cultura inteira de seguro contra erros:

• Dupla verificação de procedimentos críticos
• Formulários padronizados e protocolos em vez de texto livre
• Sinais de alerta quando ocorrem desvios da norma
• Documentação obrigatória de cada etapa
• Canais claros de feedback entre níveis

O resultado: a medicina projeta não para um intermediário ideal, mas para um real que pode cometer erros.

O Que Isso Significa para o Design de Interfaces

Se reconhecermos um agente como um intermediário, não como um usuário, então a tarefa do designer muda. Precisamos de interfaces que não apenas "funcionem", mas funcionem de forma confiável mesmo quando o intermediário comete erros ou não compreende totalmente o contexto. Isso significa confirmações explícitas antes de ações críticas, registro detalhado de cada etapa, a capacidade de reverter operações e garantir que o agente possa ler o estado em cada estágio. Hoje, a maioria das interfaces é projetada para interação direta com humanos. Quando você coloca um agente nelas, frequentemente quebram. Porque não há seguro contra o intermediário compreender mal o acordo silencioso do design.