Dario Amodei, de Anthropic, promete una "IA buena", pero los críticos piden frenar la carrera

La visita del consejero delegado de Anthropic, Dario Amodei, a Canberra fue algo más que una presentación de la "IA buena": se convirtió en una prueba de hasta dónde están dispuestas a llegar las autoridades en su alianza con las grandes tecnológicas a cambio del crecimiento de productividad prometido. En medio de la turbulencia política y el cansancio por la desigualdad, se oye cada vez más una pregunta: ¿puede considerarse progreso la automatización si su precio son los empleos, la energía, los derechos de autor y una concentración de poder aún mayor?

El 2 de abril de 2026, el Gobierno australiano ofreció una cálida bienvenida al consejero delegado de Anthropic, Dario Amodei. Se reunió con el primer ministro, funcionarios y representantes del sector tecnológico, y defendió la idea de una "IA buena": un sistema que, según él, acelerará la economía y ayudará al país a atravesar más rápido el próximo ciclo tecnológico. Casi al mismo tiempo, el Gobierno publicó nuevos principios para los centros de datos, y Anthropic fue la primera empresa en sumarse a ese marco.

Formalmente, trataba de seguridad, seguimiento del desarrollo de los modelos de frontera y apoyo al ecosistema local, pero la señal política era más amplia: Australia no quiere quedarse al margen de la carrera de la IA.

Para muchos, Amodei no es el rostro más agresivo del sector. Dejó OpenAI y más tarde fundó Anthropic como una empresa con mayor énfasis en la seguridad. En sus intervenciones públicas ha advertido más de una vez sobre los riesgos de sus propias tecnologías y se ha opuesto a usos extremos, desde la vigilancia masiva hasta las armas autónomas. Por eso se le suele considerar un representante del bando "responsable" de la industria.

Pero ni siquiera esa reputación elimina la pregunta central: si uno de los líderes más cautelosos del mercado habla él mismo de consecuencias colosales para el mercado laboral, ¿por qué los Estados se apresuran a implantar la IA más rápido de lo que redactan normas?

Como recuerda Toby Walsh, profesor de la UNSW, no existe una "IA buena" universal: la misma tecnología puede ayudar a médicos, docentes e investigadores, y a la vez desplazar a trabajadores de oficina, abaratar el trabajo creativo y aumentar la demanda de infraestructuras que consumen mucha energía.

Otro frente de la disputa es cómo se entrenan los modelos. Desde hace tiempo se acusa a las empresas de IA de usar obras de autores, artistas y periodistas sin su pleno consentimiento, mientras los desarrolladores siguen presentando ese enfoque como el precio inevitable de la innovación. En este contexto, las promesas de nueva productividad para la economía suenan menos neutrales: los beneficios se reparten arriba, y el riesgo y las pérdidas bajan.

Se nota sobre todo en la política. El Gobierno australiano promueve la IA como acelerador del crecimiento, apoyándose en buena medida en modelos y cálculos elaborados con participación de la propia industria. Pero dentro de su propia coalición de apoyo ya se ven grietas. Los sindicatos temen por los trabajadores, los artistas hablan de explotación directa de su trabajo y los padres se preocupan por el daño a niños y adolescentes, cada vez más expuestos a contenido sintético e interlocutores digitales. Para la política de centroizquierda es un conflicto incómodo: por un lado, quiere mostrarse abierta a la innovación; por otro, tiene la obligación de proteger a quienes suelen pagar primero cada salto tecnológico.

En términos más amplios, la disputa choca con un viejo problema que la era digital solo ha agravado. Durante mucho tiempo, el cambio tecnológico se vendió como el camino natural hacia una sociedad más libre y justa. Pero las últimas décadas han demostrado que la velocidad del cambio, por sí sola, no garantiza nada.

La globalización intensificó la concentración de la riqueza, las plataformas de internet construyeron su negocio extrayendo atención, y la confianza en las instituciones se hundió justo cuando las corporaciones tecnológicas se hicieron demasiado grandes para regularlas simplemente a posteriori. Por eso la disputa sobre la IA ya no trata de gadgets y chatbots, sino de quién define el rumbo del progreso y quién tiene derecho a imponer su coste a la sociedad.

La conclusión principal de este debate es dura: frenar la carrera de la IA ya no parece un gesto reaccionario. Para muchos, se está convirtiendo en la única manera de hacer el desarrollo controlable. Si los modelos realmente pueden destruir puestos de oficina de nivel inicial, diluir los derechos de autor, aumentar la carga sobre la red eléctrica y ampliar las herramientas de vigilancia, primero hacen falta líneas rojas, responsabilidad y reglas verificables, y solo después memorandos, centros de datos y nuevas promesas de productividad.

En ese sentido, la disputa en torno a Anthropic en Australia importa mucho más allá de un solo país: muestra que la cuestión ya no es si llegará la IA, sino quién logrará ponerle límites a tiempo.