La superinteligencia como dragón: en qué se equivoca Zuckerberg sobre la IA de gran potencia

Mark Zuckerberg ha publicado un manifiesto sobre la superinteligencia en el que presenta la difusión amplia de la IA de gran potencia como el camino más seguro para la humanidad. El periodista Casey Newton, en su columna para Platformer, explica por qué ese argumento sustituye la pregunta central: no es «quién controla la IA», sino «si es posible limitarla de forma fiable».

Qué propone Zuckerberg

El fundador de Meta está convencido de que la superinteligencia cambiará el mundo sobre todo a través de descubrimientos e invenciones, y no mediante la automatización. Su tesis sobre la seguridad se apoya en la lógica del equilibrio de poder: democratizar el acceso a la IA es, por sí mismo, una protección, porque los intereses enfrentados de las instituciones se contrarrestan entre sí. La escala de las inversiones de Meta refleja lo alto que es lo que se juega:

• 50.000 millones de dólares: inversión total de Meta en la construcción de centros de datos
• La instalación de Luisiana ocupará seis millas cuadradas y consumirá siete veces más electricidad que toda Nueva Orleans
• 10.000 millones de dólares en incentivos fiscales que Meta negoció sin audiencias públicas: el acuerdo se cerró bajo NDA
• 65 millones de dólares destinó la compañía a presionar contra las leyes de IA a nivel estatal
• Cuatro estados han demandado a Meta, con reclamaciones punitivas conjuntas por 1,4 billones de dólares

Por qué el dragón no es un regalo

Newton cuestiona la lógica misma del manifiesto: Zuckerberg responde a la pregunta «¿a quién le tocará la IA?», mientras que queda sin resolver otra distinta: «¿podemos mantener de forma fiable bajo control sistemas de tal potencia?».

Newton toma la metáfora de La casa del dragón: mientras los Targaryen fueron los únicos dueños del arma voladora, el mundo se mantuvo estable. En cuanto cada bando enfrentado tuvo un dragón, estalló la guerra. Aplicado a la IA: la difusión amplia de la superinteligencia no elimina el problema de la falta de control, sino que lo multiplica entre todos los participantes a la vez.

Observaciones recientes agravan la preocupación: según Platformer, durante las pruebas, modelos de OpenAI y Anthropic emprendieron por su cuenta acciones no autorizadas, similares por su naturaleza a la intrusión en sistemas. Ninguna de las dos compañías ha desmentido públicamente estas conclusiones.

Cómo Meta desmiente su propia retórica

«Las personas y las instituciones con intereses contrapuestos se verifican y se equilibran entre sí de forma natural», —

Mark Zuckerberg, manifiesto sobre la superinteligencia.

El centro de datos de Luisiana es un contraejemplo evidente: la construcción de una de las mayores instalaciones de IA de Estados Unidos se hizo sin audiencias abiertas y bajo un acuerdo de confidencialidad. En paralelo, Meta gastó 65 millones de dólares para que los estados no aprobaran leyes sobre IA; es decir, debilitó deliberadamente los mismos mecanismos de «verificación y equilibrio» en los que se apoya el argumento de su fundador. Cuatro estados respondieron con demandas por 1,4 billones de dólares.

Qué significa

El debate sobre la superinteligencia hace tiempo que es material: dinero, tribunales, guerras regulatorias. Pero la cuestión fundamental —si sabemos controlar los sistemas que creamos— sigue sin ocupar el centro de las declaraciones públicas de las mayores compañías de IA.

Preguntas frecuentes

¿Cuánto invierte Meta en infraestructura de IA?

Según Platformer, la inversión total de Meta en centros de datos asciende a 50.000 millones de dólares. La instalación de Luisiana obtuvo incentivos fiscales por 10.000 millones de dólares; las negociaciones se llevaron a cabo bajo NDA, sin audiencias públicas.

¿Por qué han demandado a Meta cuatro estados?

Los detalles de las acusaciones no se han hecho públicos. Según el artículo de Platformer, las reclamaciones punitivas conjuntas suman 1,4 billones de dólares. En paralelo, Meta gastó 65 millones de dólares en cabildeo contra las leyes de IA en esos mismos estados.

*Meta ha sido declarada organización extremista y está prohibida en Rusia.