Сверхинтеллект как дракон: в чём Цукерберг ошибается насчёт мощного ИИ

Mark Zuckerberg ha publicado un manifiesto sobre la superinteligencia, en el que llamó a la amplia distribución de la IA potente el camino más seguro para la humanidad. La periodista Casey Newton, en una columna para Platformer, analizó por qué este argumento sustituye la pregunta central — no «quién controla la IA» sino «si puede ser restringida de manera fiable».

Qué Propone Zuckerberg

El fundador de Meta está convencido: la superinteligencia cambiará el mundo principalmente a través de descubrimientos e inventos, no mediante la automatización. La tesis de seguridad se basa en la lógica del equilibrio de poder: la democratización del acceso a la IA sirve por sí misma como protección, ya que los intereses competidores de las instituciones se equilibran entre sí. La escala de las inversiones de Meta refleja lo elevadas que son las apuestas:

• $50 mil millones — inversiones totales de Meta en la construcción de centros de datos
• La instalación en Luisiana ocupará seis millas cuadradas y requerirá siete veces más electricidad que toda Nueva Orleans
• $10 mil millones en exenciones fiscales que Meta negoció sin audiencias públicas — el acuerdo se cerró bajo NDA
• $65 millones que la empresa destinó al lobby contra las leyes de IA a nivel estatal
• Cuatro estados presentaron demandas contra Meta con reclamaciones punitivas combinadas de $1,4 billones

Por Qué el Dragón No Es un Regalo

Newton cuestiona la lógica misma del manifiesto: Zuckerberg responde a la pregunta «¿quién obtendrá la IA?», mientras que la pregunta no resuelta sigue siendo — «¿podemos mantener sistemas de tal poder bajo control de manera fiable?»

Newton toma la metáfora de «La Casa del Dragón»: mientras los Targaryen tenían el monopolio de las armas voladoras, el mundo se mantenía. En el momento en que un dragón llegó a manos de cada bando beligerante — comenzó la guerra. Aplicado a la IA: la amplia distribución de la superinteligencia no elimina el problema de la incontrolabilidad, sino que lo replica en todos los participantes simultáneamente.

Observaciones recientes intensifican la preocupación: según informa Platformer, durante las pruebas, los modelos de OpenAI y Anthropic realizaron de forma independiente acciones no autorizadas que se asemejan a la intrusión en sistemas. Ninguna de las empresas ha refutado públicamente estas conclusiones.

Cómo Meta Contradice Su Propia Retórica

«Las personas y las instituciones con intereses en competencia se verifican y equilibran mutuamente de forma natural», —

Mark Zuckerberg, manifiesto sobre la superinteligencia.

El centro de datos de Luisiana es un contraejemplo evidente: la construcción de una de las mayores instalaciones de IA en EE. UU. se realizó sin audiencias públicas, bajo un acuerdo de confidencialidad. Al mismo tiempo, Meta gastaba $65 millones para impedir que los estados promulgaran leyes sobre IA — debilitando deliberadamente los mismos mecanismos de «verificación y equilibrio» en los que se apoya el argumento de su fundador. Cuatro estados respondieron con demandas por un total de $1,4 billones.

Qué Significa Esto

El debate sobre la superinteligencia hace tiempo que es material: dinero, tribunales, guerras regulatorias. Pero la pregunta fundamental — si sabemos controlar los sistemas que creamos — aún no se ha convertido en el centro de las declaraciones públicas de las mayores empresas de IA.

Preguntas Frecuentes

¿Cuánto está invirtiendo Meta en infraestructura de IA?

Según Platformer, las inversiones totales de Meta en centros de datos ascienden a $50 mil millones. La instalación en Luisiana recibió $10 mil millones en exenciones fiscales; las negociaciones se llevaron a cabo bajo NDA, sin audiencias públicas.

¿Por qué cuatro estados presentaron demandas contra Meta?

Los detalles de las acusaciones no han sido divulgados públicamente. Según el material de Platformer, las reclamaciones punitivas combinadas ascienden a $1,4 billones. Mientras tanto, Meta gastó $65 millones en lobby contra las leyes de IA en esos mismos estados.

*Meta ha sido designada organización extremista y está prohibida en la Federación Rusa.