Designer equipara agentes de IA a intermediários médicos, e não a usuários

Nesta semana, uma discussão tomou conta do Habr sobre como classificar agentes de IA no design de interfaces. Kiara Pellegrini, da Nielsen Norman Group, propôs uma lógica simples: o agente tem objetivos, interage com a interface e tenta alcançá-los. Logo, é um usuário. Mas uma designer de UX com oito anos de experiência como médica discorda: isso não é apenas uma definição imprecisa, mas um profundo mal-entendido sobre a arquitetura.

Por que o agente não é um usuário

O agente clica em botões, preenche campos e recebe resultados, como um usuário. Mas há uma diferença crítica em motivação e responsabilidade. O usuário age por si mesmo. O agente age por você, representando seus objetivos por meio de interpretação. Isso transforma toda a dinâmica de interação com a interface.

Quando o designer projeta para um usuário, ele cria um canal de acesso direto: a pessoa vê algo, entende e age. O erro é dela, de compreensão ou de atenção. Quando um intermediário entra na cadeia, surgem novos pontos de falha. O agente pode ler mal a sua intenção, pode esquecer o contexto e pode esbarrar numa exceção sem saber como reagir.

A medicina conhece essa questão há um século

A enfermeira num hospital é um intermediário clássico. O médico prescreve, a enfermeira executa e o paciente recebe o medicamento. Cada nível pode distorcer a informação: o médico escreveu a dose de forma pouco clara, a enfermeira leu errado, o paciente esqueceu a instrução. Por isso a medicina desenvolveu toda uma cultura de proteção contra erros:

• Dupla checagem de procedimentos críticos
• Formulários e protocolos padronizados em vez de texto livre
• Alarmes diante de desvios da norma
• Documentação obrigatória de cada etapa
• Canais claros de feedback entre os níveis

O resultado: a medicina projeta não para um intermediário ideal, mas para um real, que pode errar.

O que isso significa para o design de interfaces

Se aceitarmos o agente como intermediário e não como usuário, a tarefa do designer muda. São necessárias interfaces que não apenas "funcionem", mas funcionem com confiabilidade mesmo quando o intermediário erra ou não entende totalmente o contexto. Isso significa confirmações explícitas antes de ações críticas, registro detalhado de cada etapa, possibilidade de reverter uma operação e estado legível para o agente em cada fase.

Hoje, a maioria das interfaces é projetada para a interação humana direta. Quando se joga um agente nelas, muitas vezes elas quebram, porque não há proteção contra o intermediário entender mal o acordo tácito do design.