Дизайнер приравняла AI-агентов к медицинским посредникам, а не к пользователям
На Habr дизайнер поспорила с Nielsen Norman Group: AI-агенты это не новые пользователи, а посредники. Как медсестра между врачом и пациентом. Разница принципиал
Cette semaine sur Habr, une discussion s'est développée sur la question de savoir qui devrait être considéré comme des agents IA dans la conception d'interfaces. Kiara Pellegrini de Nielsen Norman Group a proposé une logique simple : un agent a des objectifs, interagit avec l'interface, tente de les atteindre. Par conséquent, c'est un utilisateur. Mais une designer UX ayant huit ans d'expérience médicale conteste : ce n'est pas seulement une imprécision dans la définition, mais une profonde incompréhension de l'architecture.
Pourquoi un Agent N'est Pas un Utilisateur
Un agent clique sur des boutons, remplit des champs, obtient des résultats — comme un utilisateur. Mais il existe une différence critique dans la motivation et la responsabilité. Un utilisateur agit pour lui-même. Un agent agit pour vous, représentant vos objectifs par l'interprétation. Cela transforme toute la dynamique de l'interaction avec l'interface. Quand un designer conçoit pour un utilisateur, il crée un canal d'accès direct : une personne voit quelque chose, le comprend, agit. Une erreur est son erreur de compréhension ou d'attention. Quand un intermédiaire entre en jeu, de nouveaux points de défaillance apparaissent. Un agent peut mal interpréter votre intention, peut oublier le contexte, peut rencontrer une exception et ne pas savoir comment réagir.
La Médecine Connaît Cette Question Depuis un Siècle
Une infirmière à l'hôpital est un intermédiaire classique. Un médecin rédige une ordonnance, l'infirmière l'exécute, le patient reçoit le médicament. Chaque niveau peut déformer l'information : le médecin écrit la dose de manière peu claire, l'infirmière la lit incorrectement, le patient oublie les instructions. C'est pourquoi la médecine a développé toute une culture d'assurance contre les erreurs :
- Vérification double des procédures critiques
- Formulaires standardisés et protocoles au lieu de texte libre
- Signaux d'alerte en cas d'écarts par rapport à la norme
- Documentation obligatoire de chaque étape
- Canaux de rétroaction clairs entre les niveaux
Le résultat : la médecine conçoit non pas pour un intermédiaire idéal, mais pour un intermédiaire réel qui peut se tromper.
Ce Que Cela Signifie pour la Conception d'Interfaces
Si nous reconnaissons un agent comme un intermédiaire, et non comme un utilisateur, alors la tâche du designer change. Nous avons besoin d'interfaces qui non seulement « fonctionnent », mais fonctionnent de manière fiable même lorsque l'intermédiaire commet des erreurs ou ne comprend pas complètement le contexte. Cela signifie des confirmations explicites avant les actions critiques, une journalisation détaillée de chaque étape, la capacité à annuler les opérations et à garantir que l'agent puisse lire l'état à chaque étape. Aujourd'hui, la plupart des interfaces sont conçues pour l'interaction directe humaine. Quand vous lancez un agent dedans, elles cassent souvent. Parce qu'il n'y a pas d'assurance contre le fait que l'intermédiaire mal comprenne l'accord tacite de la conception.