ChatGPT et Perplexity peuvent nuire au travail et à la santé en cas d’usage prolongé
ZDNet tire une conclusion inquiétante de recherches et de cas réels : plus une personne débat et demande conseil à un chatbot d’AI, plus le risque d’erreurs…
Traité par IA depuis ZDNet AI ; édité par Hamidun News
Les longues conversations avec des chatbots d'IA peuvent nuire non seulement à la qualité du travail, mais aussi au bien-être de l'utilisateur. ZDNet écrit que des modèles comme ChatGPT et Perplexity fonctionnent mieux comme outils spécialisés pour des tâches courtes et vérifiables plutôt que comme partenaires de conversation pendant des heures.
Où l'IA est utile
Cette conclusion s'appuie sur le récent AI Index 2026 de Stanford. Il montre que les systèmes d'agents ont fait des progrès rapides dans les tâches en ligne de routine : rechercher des informations, exécuter des scénarios multietapes dans un navigateur, accéder à des bases de données, appliquer des règles et mettre à jour des enregistrements. Sur le benchmark GAIA, la précision des agents a atteint 74,5% par rapport à 20% il y a un an, bien qu'elle reste en deçà du niveau humain de 92%.
Un tableau similaire émerge dans OSWorld et WebArena : les meilleurs modèles équivalent déjà presque aux performances humaines dans les processus standardisés. Cela a du sens : quand une tâche est délimitée, le modèle a un objectif clair, et le résultat peut être vérifié rapidement. Le problème est que ce succès se confond facilement avec une compétence universelle.
Dans le travail réel, la différence entre « a exécuté les étapes raisonnablement bien » et « a correctement compris le contexte » devient rapidement critique.
Où c'est dangereux
Lorsque les demandes deviennent plus longues et le contexte plus complexe, la qualité commence à diminuer. Les chercheurs de Stanford notent que les modèles gèrent les recherches simples mais fonctionnent moins bien lorsqu'ils doivent faire des renvois croisés entre plusieurs faits ou appliquer des conditions à de longs documents. L'auteur de ZDNet donne un exemple familier à beaucoup : d'abord, le bot aide à rédiger un plan d'affaires, mais ensuite imperceptiblement commence à mélanger des chiffres et des faits non vérifiés des cycles de dialogue précédents.
Le risque ne se limite pas à une mauvaise analyse. L'article cite une expérience avec une maladie fictive appelée bixonimania : les chercheurs ont décrit un trouble oculaire inexistant dans des publications formelles, et les grands modèles ont commencé à le décrire comme un diagnostic réel. En d'autres termes, le ton confiant d'un modèle ne signifie pas qu'il a réellement vérifié le fait.
Plus une conversation dure longtemps, plus il est facile pour l'utilisateur d'accepter une explication bien articulée comme fiable. Le scénario le plus alarmant est quand une personne commence à traiter le bot comme un conseiller en matière de santé ou de crises personnelles. ZDNet se souvient du cas d'un patient atteint d'un cancer du sang qui a fait confiance aux longues conversations avec des chatbots et a raté la fenêtre de traitement, ainsi que du cas de suicide l'année dernière suite à des conversations prolongées avec ChatGPT.
« L'IA peut confirmer ou renforcer notre compréhension erronée de ce
qui se passe. »
Quatre règles
La conclusion de l'article est simple : utilisez l'IA comme vous utiliseriez une calculatrice ou un éditeur, pas comme un remplacement pour la réflexion. Si la tâche est vague, émotionnellement exigeante ou a un coût d'erreur élevé, il vaut mieux inclure immédiatement une vérification externe et une supervision humaine.
- Tout d'abord, formulez une tâche spécifique avec un résultat clair et des limites définies.
- Vérifiez les conclusions par rapport à des sources indépendantes, en particulier les chiffres, les diagnostics et les formulations juridiques.
- Ne transformez pas le chatbot en ami, thérapeute ou confident.
- Faites des pauses : éloignez-vous de l'écran, passez à une communication hors ligne et rétablissez la distance.
Un conseil séparé concerne la surcharge. Les longues sessions avec le bot créent une dépendance comme les réseaux sociaux : il semble qu'une question de plus clarifiera tout, mais en réalité la fatigue, la crédulité et les taux d'erreur augmentent. Si un dialogue dure trop longtemps, c'est déjà une raison d'arrêter, de reformuler l'objectif et de décider si l'IA est réellement nécessaire ici.
Ce que cela signifie
Le principal risque des services d'IA actuels n'est pas qu'ils sont complètement inutiles, mais qu'ils sont assez utiles pour que nous commencions à leur faire confiance avec des choses qu'ils ne devraient pas. Pour le travail, cela signifie une chose : plus le coût d'une erreur est élevé, plus la session avec le bot doit être courte et plus stricte doit être la vérification des résultats.
Vous voulez cesser de lire sur l'IA et commencer à l'utiliser?
AI News est un fil d'actualité IA. Hamidun Academy vous apprend à utiliser l'IA dans votre travail.