Campbell Brown sobre quién decide lo que te dice la IA

Campbell Brown señala una brecha fundamental: cuando las empresas tecnológicas hablan de IA e información, tratan un tema, mientras que a los consumidores les importa algo totalmente distinto.

Silicon Valley frente a los consumidores

En Silicon Valley, el debate se centra en la arquitectura de los sistemas de IA, la transparencia de los algoritmos y los enfoques científicos de la fairness. Las empresas hablan de cómo se construyen los modelos, qué datos se usaron, cómo minimizar los sesgos en los resultados y cómo garantizar el alineamiento (alignment) entre las intenciones del desarrollador y el comportamiento del sistema.

Los consumidores se centran en una pregunta muy distinta. No les interesan los detalles técnicos de cómo funciona la IA. Les preocupan el control y la confianza en el sentido más simple: ¿quién decide qué información veo? Cuando escribo una consulta en ChatGPT o Claude, ¿quién fija los límites de la respuesta? ¿Qué reglas invisibles determinan lo que recibo?

«En

Silicon Valley se mantiene una conversación, y entre los consumidores se mantiene otra completamente distinta»

Esta cita capta la esencia del problema. Las dos partes hablan lenguajes distintos y de problemas distintos.

El control de la información, la cuestión central

Según Brown, el núcleo del problema es que la pregunta sobre quién controla la información sigue sin resolverse. Cuando las redacciones controlaban la información, era algo explícito: los editores elegían qué publicar y se les podía criticar o llevar a juicio. Las reglas eran relativamente abiertas. Ahora las empresas de IA asumen el papel de guardianes de la información, pero con mucha menos transparencia. Los consumidores ven el resultado, pero no la lógica.

Brown destaca varios problemas clave:

• Los sistemas de IA no se limitan a proporcionar datos: eligen activamente qué mostrar y cómo formularlo
• Los criterios de selección suelen ser una caja negra de la red neuronal incluso para las propias empresas
• Los consumidores no saben, ni pueden saber, por qué ven una cosa y no otra
• La responsabilidad se diluye entre la empresa, los ingenieros y el algoritmo

De dónde viene esta brecha

Brown apunta a una profunda divergencia cultural. Los tecnólogos piensan en cómo construir; los consumidores piensan en cómo controlar. Cuando una empresa dice «tenemos safeguards y capas de seguridad», el consumidor oye: «filtráis lo que veo y no puedo influir en ese filtro».

Es un asunto especialmente delicado en noticias, política y elecciones, ámbitos donde el control de la información tiene consecuencias directas y visibles para la sociedad.

Qué significa

Brown señala la ausencia de un diálogo genuino. Silicon Valley resuelve una tarea: cómo mejorar la IA y hacerla más segura y honesta. Los consumidores resuelven otra: cómo recuperar el control y entender la lógica. Mientras estas conversaciones avancen en paralelo, ninguna de las partes escuchará a la otra.