Une designer assimile les agents IA à des intermédiaires médicaux, pas à des utilisateurs

Cette semaine, une discussion s'est engagée sur Habr à propos de la place des agents IA dans la conception d'interfaces. Kiara Pellegrini, de Nielsen Norman Group, a proposé une logique simple : un agent a des objectifs, interagit avec une interface et cherche à les atteindre. C'est donc un utilisateur. Mais une designer UX forte de huit ans d'expérience comme médecin s'y oppose : ce n'est pas une simple imprécision de définition, mais une profonde incompréhension de l'architecture.

Pourquoi un agent n'est pas un utilisateur

Un agent clique sur des boutons, remplit des champs et obtient des résultats, comme un utilisateur. Mais la motivation et la responsabilité diffèrent de façon critique. L'utilisateur agit pour lui-même. L'agent agit pour vous, en représentant vos objectifs par l'interprétation. Cela transforme toute la dynamique d'interaction avec l'interface.

Quand un designer conçoit pour un utilisateur, il crée un canal d'accès direct : la personne voit quelque chose, comprend et agit. L'erreur est la sienne, de compréhension ou d'attention. Quand un intermédiaire s'insère dans la chaîne, de nouveaux points de défaillance apparaissent. Un agent peut mal lire votre intention, peut oublier le contexte et peut tomber sur une exception sans savoir comment réagir.

La médecine connaît cette question depuis un siècle

L'infirmière à l'hôpital est un intermédiaire classique. Le médecin rédige une ordonnance, l'infirmière l'exécute, le patient reçoit le médicament. Chaque niveau peut déformer l'information : le médecin a écrit la dose de façon peu claire, l'infirmière l'a mal lue, le patient a oublié la consigne. C'est pourquoi la médecine a développé toute une culture de protection contre les erreurs :

• Double vérification des procédures critiques
• Formulaires et protocoles standardisés plutôt que texte libre
• Alarmes en cas d'écart par rapport à la norme
• Documentation obligatoire de chaque étape
• Canaux de retour d'information clairs entre les niveaux

Résultat : la médecine conçoit non pour un intermédiaire idéal, mais pour un intermédiaire réel, qui peut se tromper.

Ce que cela signifie pour la conception d'interfaces

Si l'on admet que l'agent est un intermédiaire et non un utilisateur, la tâche du designer change. Il faut des interfaces qui ne se contentent pas de « fonctionner », mais qui fonctionnent de façon fiable même quand l'intermédiaire se trompe ou ne comprend pas tout à fait le contexte. Cela suppose des confirmations explicites avant les actions critiques, une journalisation détaillée de chaque étape, la possibilité d'annuler une opération et un état lisible par l'agent à chaque stade.

Aujourd'hui, la plupart des interfaces sont conçues pour l'interaction humaine directe. Quand on y lâche un agent, elles se brisent souvent, faute de protection contre un intermédiaire qui comprend de travers l'accord tacite du design.