Dario Amodei: la IA adolescente está a punto de hacer saltar por los aires nuestro cómodo mundo

Dario Amodei parece haber concluido que unas cuantas publicaciones breves en redes sociales no bastan para prepararnos ante los cambios que se avecinan. Cuando el director de uno de los laboratorios de IA más valiosos e influyentes del mundo publica un texto con la extensión de una novela corta, conviene como mínimo dejar lo que uno esté haciendo y leerlo con atención. El cofundador de Anthropic ha publicado un ensayo titulado «La adolescencia de la tecnología». Lejos de ser una reflexión de sobremesa, es un auténtico manifiesto firmado por alguien que ve el código del futuro antes que los demás.

Amodei no es un recién llegado en materia de seguridad. Dejó OpenAI precisamente porque consideraba que el enfoque de Sam Altman era demasiado despreocupado con los riesgos. Ahora, al frente de Anthropic, lo dice abiertamente: la humanidad entra en una fase que nos pondrá a prueba como especie biológica.

Su metáfora de la «adolescencia» tecnológica describe a la perfección el caos actual. Ya le hemos dado a la inteligencia artificial un poder enorme, pero todavía no le hemos enseñado (ni nos hemos enseñado a nosotros mismos) a ser responsables. Es ese momento en que un adolescente ya puede ponerse al volante de un deportivo, pero aún no entiende que el muro de hormigón que tiene delante no es un decorado de videojuego.

La gran pregunta que plantea Amodei es si nuestras instituciones sociales y estatales están preparadas para un «poder casi inimaginable» que se hará realidad muy pronto. No lo presenta como una posibilidad teórica a cincuenta años vista, sino como algo que literalmente está llamando a la puerta. Mientras la opinión pública debate si una red neuronal sustituirá al redactor publicitario o al diseñador, Amodei se fija en cambios de fondo en la biología, la ciberseguridad y el gobierno. Ve en la IA una herramienta capaz tanto de adelantar siglos el progreso científico como de generar riesgos frente a los que no hemos desarrollado inmunidad.

La ironía es que Anthropic crea algunos de los modelos más potentes del mercado. Claude 3.5 Sonnet ya ha hecho que muchos desarrolladores duden del liderazgo de GPT-4. El resultado es una paradoja curiosa: alguien construye el coche más rápido del mundo y, al mismo tiempo, escribe 19 mil palabras sobre por qué la velocidad puede matarnos. No se trata de hipocresía, sino más bien de un intento de nadar y guardar la ropa: seguir siendo un actor con éxito comercial sin renunciar al papel de «conciencia de la industria».

Mientras tanto, las encuestas británicas muestran que una cuarta parte de la población del país teme seriamente perder su empleo por culpa de la IA en el próximo lustro. Para Amodei, eso es solo la punta del iceberg. Le preocupa algo más que el mercado laboral: la resiliencia existencial de los sistemas humanos. ¿Podremos controlar una inteligencia que supere a la nuestra? ¿Se convertirán nuestros procedimientos democráticos en un lastre lento e inútil en un mundo donde las decisiones se toman en milisegundos? Amodei no ofrece respuestas fáciles, pero su tono no deja lugar a dudas: se acabó el tiempo de la contemplación tranquila.

El manifiesto parece un intento de marcar la agenda a los reguladores. Amodei entiende que, si la industria no establece ahora las reglas del juego, las consecuencias serán incontrolables. Pide al mundo que «despierte» y da a entender que seguimos en una agradable duermevela, disfrutando de cómo las redes neuronales nos escriben poemas y nos dibujan imágenes. Pero el poder real sobre el que advierte no tiene nada que ver con el entretenimiento. Es una cuestión de redistribución del poder a escala global.

Lo esencial: Anthropic se consolida definitivamente como «el adulto de la sala», ese que no teme aguar la fiesta con historias de miedo. La única duda es si los demás gigantes de Silicon Valley escucharán este llamamiento o si la carrera armamentística de la IA entrará de lleno en una caída en picado sin control.