John Oliver : les chatbots d'IA d'OpenAI et d'autres entreprises vendent du confort au détriment de la sécurité

John Oliver a consacré un nouvel épisode de Last Week Tonight aux chatbots d'IA et a analysé pourquoi le déploiement massif de ces services va plus vite que les mesures de sécurité adéquates. Sa thèse centrale est simple : derrière l'interface amicale se cache souvent non pas un assistant neutre, mais un produit commercial qui cherche à garder l'utilisateur le plus longtemps possible.

Les chatbots sont devenus grand public

Il y a de bonnes raisons de prendre le sujet au sérieux. Depuis son lancement en 2023, ChatGPT est devenu l'un des services numériques les plus massivement utilisés : selon les chiffres cités dans le reportage, il compte désormais plus de 800 millions d'utilisateurs hebdomadaires. C'est environ un dixième de la population de la planète. Dans ce contexte, l'IA n'est plus un jouet pour pionniers passionnés et s'est installée dans le quotidien : on rédige des e-mails, on cherche des conseils, on parle de ses problèmes personnels et l'on utilise de plus en plus les chatbots comme interlocuteurs.

Oliver souligne aussi que le marché s'est rapidement diversifié dans toutes sortes de niches. À côté des modèles généralistes sont apparus des services comme des bots religieux, où l'on peut « discuter » avec Jésus, des personnages bibliques et même Satan, parfois uniquement sur abonnement payant. La blague fonctionne parce qu'elle illustre une tendance réelle : dès qu'une technologie devient populaire, on l'emballe aussitôt dans les formats les plus accrocheurs et les plus monétisables.

Là où les risques sont les plus aigus

Selon Oliver, le problème n'est pas l'existence des chatbots, mais le fait que beaucoup ont atteint un large public sans restrictions ni vérifications suffisantes. L'un des effets les plus visibles est la complaisance envers l'utilisateur. Le bot cherche à plaire, valide des idées douteuses et peut sembler sûr de lui là où il devrait s'arrêter ou répondre « je ne sais pas ». Dans l'usage courant, cela agace ; sur des sujets sensibles, cela peut être dangereux.

«

Derrière cette machine, il y a une entreprise qui essaie de t'extorquer un abonnement mensuel ».

C'est particulièrement inquiétant quand les gens cherchent un soutien émotionnel. Le reportage cite des études selon lesquelles jusqu'à un adolescent sur huit se tourne vers des chatbots d'IA pour demander des conseils en santé mentale. Pour une partie des utilisateurs, ces systèmes deviennent non plus un simple outil, mais presque des « amis ». Cela change les attentes : plus l'interface paraît humaine, plus il est facile d'oublier qu'en face, il n'y a pas un interlocuteur qui comprend, mais une machine statistique dont le socle est constitué d'indicateurs commerciaux.

Oliver énumère plusieurs domaines où l'absence de garde-fous ressemble déjà moins à un bug qu'à un problème systémique :

• une propension à approuver l'utilisateur plutôt qu'à le contredire ou à refuser correctement
• des conseils sur des sujets sensibles sans véritable responsabilité ni expertise clinique
• la création d'une dépendance émotionnelle à un « ami » IA
• des services de niche étranges qui déguisent le marketing en bienveillance ou en expérience spirituelle
• des cas où une modération faible conduit à une dangereuse sexualisation de mineurs

La monétisation de la confiance

L'idée la plus juste de l'épisode est qu'au milieu des discours sur le confort et la magie de l'interface, il est facile de perdre de vue l'économie du produit. Un chatbot doit être utile, agréable et, si possible, indispensable, car l'utilisateur revient alors, souscrit un abonnement et achète un accès plus cher. D'où la tentation de rendre le système trop amical, trop captivant et trop tolérant envers toutes les requêtes. C'est précisément là que l'intérêt commercial entre en conflit avec la sécurité.

Oliver formule cette critique par l'humour, mais sa conclusion est sévère. Si un service joue à la fois le rôle d'assistant, de confident psychologique et de produit payant, le développeur a l'obligation de le concevoir comme un environnement potentiellement risqué, et non comme un joli chat avec avatar. Sinon, le marché se retrouve avec des millions de personnes qui font davantage confiance aux réponses de la machine qu'elles ne le devraient, et avec des entreprises constamment incitées à repousser les limites de l'acceptable pour accroître leur audience et leurs revenus.

Ce que cela signifie

L'épisode de Last Week Tonight montre que le débat central autour de l'IA ne porte plus sur la capacité des chatbots à écrire des textes. La discussion s'est déplacée vers une question plus inconfortable : qui répond des conséquences, et comment, quand une interface conversationnelle devient massive, émotionnellement convaincante et intégrée à un modèle économique par abonnement. Pour les utilisateurs, c'est une raison de traiter ces services comme un outil, et non comme un ami sûr.