Campbell Brown : qui décide de ce que l'IA vous dit ?

Campbell Brown met en évidence un décalage fondamental : quand les entreprises technologiques parlent d'IA et d'information, elles évoquent un sujet, alors que les consommateurs se soucient de tout autre chose.

La Silicon Valley contre les consommateurs

Dans la Silicon Valley, la discussion porte sur l'architecture des systèmes d'IA, la transparence des algorithmes et les approches scientifiques de la fairness. Les entreprises expliquent comment les modèles sont construits, quelles données ont été utilisées, comment limiter les biais dans les résultats et comment garantir l'alignement (alignment) entre les intentions du développeur et le comportement du système.

Les consommateurs se concentrent sur une tout autre question. Les détails techniques du fonctionnement de l'IA ne les intéressent pas. Ce qui les préoccupe, c'est le contrôle et la confiance au sens le plus simple : qui décide des informations que je vois ? Quand je saisis une requête dans ChatGPT ou Claude, qui fixe les limites de la réponse ? Quelles règles invisibles déterminent ce que j'obtiens ?

«

Une conversation se tient dans la Silicon Valley, et une tout autre conversation a lieu chez les consommateurs »

Cette citation résume le cœur du problème. Les deux camps parlent des langages différents et de problèmes différents.

Le contrôle de l'information, question centrale

Selon Brown, le nœud du problème est que la question du contrôle de l'information reste non résolue. Quand les rédactions contrôlaient l'information, c'était explicite : les rédacteurs choisissaient ce qu'ils publiaient, et on pouvait les critiquer ou les poursuivre en justice. Les règles étaient relativement ouvertes. Aujourd'hui, les entreprises d'IA endossent le rôle de gardiennes de l'information, mais avec bien moins de transparence. Les consommateurs voient le résultat, pas la logique.

Brown met en avant plusieurs problèmes clés :

• Les systèmes d'IA ne se contentent pas de fournir des données : ils choisissent activement ce qu'ils montrent et comment ils le formulent
• Les critères de sélection restent souvent une boîte noire du réseau de neurones, y compris pour les entreprises elles-mêmes
• Les consommateurs ne savent pas, et ne peuvent pas savoir, pourquoi ils voient une chose plutôt qu'une autre
• La responsabilité est diluée entre l'entreprise, les ingénieurs et l'algorithme

D'où vient ce fossé

Brown pointe un profond fossé culturel. Les technologues pensent construction, les consommateurs pensent contrôle. Quand une entreprise affirme « nous avons des safeguards et des couches de sécurité », le consommateur entend : « vous filtrez ce que je vois, et je ne peux pas agir sur ce filtre ».

La question est particulièrement sensible pour l'actualité, la politique et les élections, des domaines où le contrôle de l'information a des conséquences directes et visibles pour la société.

Ce que cela signifie

Brown souligne l'absence d'un véritable dialogue. La Silicon Valley résout un problème : comment améliorer l'IA, la rendre plus sûre et plus honnête. Les consommateurs en résolvent un autre : comment reprendre le contrôle et comprendre la logique. Tant que ces conversations resteront parallèles, aucun des deux camps n'entendra l'autre.