Botvinick en The Guardian: la seguridad de la IA depende de la salud de la democracia

En una columna para The Guardian publicada el 12 de octubre de 2026, Matthew Botvinick identifica tres clases de amenazas de la IA: los ciberataques, la hiperpersuasión y el comportamiento incontrolado («rogue») de los sistemas. A ellas suma una condición sin la cual, según su lógica, las demás medidas no funcionan: instituciones democráticas vivas. Cuanto más rápido avanza la tecnología, más urgente es preservarlas, sobre todo porque la propia tecnología las amenaza.

Una salvedad importante: solo disponemos de la parte introductoria del texto. No citamos ni resumimos el argumento completo del autor. A continuación analizamos lo que se afirma en el fragmento abierto y el contexto en el que se formula esta tesis.

El tema ha salido de su burbuja

Botvinick describe un cambio de tono. No hace mucho, la seguridad de la IA era una ocupación de «técnicos y futurólogos». Ahora se discute en los pasillos del poder y en las mesas de las cocinas. Al mismo tiempo, se ha ampliado el abanico de cuestiones. Además de los escenarios clásicos de pérdida de control sobre los modelos, han entrado en el debate el impacto de la IA en la economía y en el medio ambiente, así como un conjunto de respuestas que va desde la investigación en alineamiento (alignment research) hasta la regulación estatal.

En la parte abierta se mencionan:

• tres tipos de riesgos directos: ciberataques, hiperpersuasión y comportamiento «rogue»;
• dos ámbitos de influencia sistémica: la economía y la ecología;
• dos clases de respuestas: técnicas (alignment) y políticas (regulación);
• una condición transversal: la preservación de la democracia.

Por qué las instituciones ocupan el centro

La lógica de este vínculo se deduce de la propia lista. La hiperpersuasión golpea el debate público y las elecciones. Los ciberataques apuntan a la infraestructura de la que dependen los servicios estatales. La regulación, concebida para contener ambos riesgos, solo funciona donde los parlamentos, los tribunales y la prensa pueden tomar decisiones y verificar su cumplimiento. Si la IA debilita esos mecanismos, también socava la herramienta con la que se pretende limitarla.

Eso vuelve el argumento práctico y no solo filosófico. Las medidas técnicas de seguridad, como las pruebas de modelos y el control de acceso, siguen siendo decisiones de cada empresa. Solo se convierten en reglas públicas legítimas a través de instituciones en las que los ciudadanos confían. Los protocolos de laboratorio, por sí solos, no confieren esa legitimidad.

Dónde habrá que poner a prueba el argumento

La introducción no permite saber qué mecanismos concretos de amenaza a las instituciones analiza el autor ni qué medidas propone. Ahí están las principales preguntas para el texto completo:

• cómo medir la presión de la IA sobre las instituciones: por la confianza en las elecciones, por la calidad del entorno informativo, por la rapidez de reacción de los reguladores;
• quién debe encargarse de la protección: el Estado, las empresas desarrolladoras o auditores independientes;
• cómo conciliar la velocidad de lanzamiento de los modelos con la lentitud de los procedimientos democráticos.

Botvinick es conocido como neurocientífico e investigador de IA que trabajó muchos años en Google DeepMind. Para una columna sobre seguridad, eso le da peso, pero no sustituye a las pruebas. La tesis «la democracia es necesaria para la seguridad de la IA» resulta convincente solo en la medida en que se apoye en ejemplos y propuestas concretas.

Qué hacer en la práctica

Para los equipos que construyen y despliegan productos de IA, la conclusión es terrenal. Conviene ampliar la evaluación de riesgos más allá de las fugas de datos y las alucinaciones. Debe incluir el impacto en el entorno informativo público: la generación masiva de contenido persuasivo, las campañas personalizadas y los ataques automatizados a servicios que usan los ciudadanos.

A las empresas les conviene definir de antemano qué controles externos están dispuestas a aceptar, en lugar de esperar a que se los imponga el regulador. Para lectores y periodistas, la conclusión es más sencilla: seguir de cerca quién escribe las reglas de la IA y en qué condiciones, y exigir que el proceso sea público. Si los mecanismos democráticos forman realmente parte de la seguridad, hay que evaluar su estado con la misma atención que los resultados de los benchmarks.