Dario Amodei: La IA adolescente está a punto de destrozar nuestro cómodo mundo

Dario Amodei parece haber decidido que los breves posts en redes sociales no son suficientes para prepararnos para los cambios venideros. Cuando el jefe de uno de los laboratorios de IA más caros e influyentes del mundo publica un texto del tamaño de una novela corta, esa es razón suficiente para al menos aparcar el trabajo y leer con atención. El cofundador de Anthropic publicó un ensayo titulado "La Adolescencia de la Tecnología", y no son solo reflexiones en tiempo libre, sino un manifiesto completo de un hombre que ve el código del futuro antes que los demás.

Amodei no es novato en cuestiones de seguridad. Abandonó OpenAI precisamente porque consideraba el enfoque de Sam Altman demasiado imprudente en términos de riesgos. Ahora, al frente de Anthropic, declara abiertamente: la humanidad está entrando en una fase que nos probará como especie biológica. Su metáfora de los "años de adolescencia" de la tecnología describe perfectamente el caos actual. Ya hemos otorgado a la inteligencia artificial un poder enorme, pero aún no le hemos enseñado (y a nosotros mismos) responsabilidad. Este es el momento exacto en que un adolescente ya puede ponerse al volante de un coche deportivo, pero aún no se da cuenta de que la pared de hormigón frente a él no es un accesorio de videojuego.

La pregunta principal que plantea Amodei: ¿están nuestras instituciones sociales y estatales listas para el "poder casi inimaginable" que se convertirá en realidad en el futuro muy próximo? Habla de esto no como una posibilidad teórica dentro de cincuenta años, sino como un evento que literalmente está llamando a la puerta. Mientras el público debate si las redes neuronales reemplazarán a redactores o diseñadores, Amodei está mirando cambios fundamentales en biología, ciberseguridad y gobierno. Ve la IA como una herramienta capaz tanto de acelerar el progreso científico en siglos como de crear riesgos para los que no hemos desarrollado inmunidad.

La ironía de la situación es que el propio Anthropic crea algunos de los modelos más poderosos del mercado. Claude 3.5 Sonnet ya ha hecho que muchos desarrolladores cuestionen el liderazgo de GPT-4. Surge una paradoja extraña: un hombre construye la máquina más rápida del mundo y simultáneamente escribe 19.000 palabras sobre por qué la velocidad puede matarnos. No es hipocresía, sino más bien un intento de sentarse en dos sillas al mismo tiempo—permanecer como un jugador comercialmente exitoso mientras se preserva el estatus de "conciencia de la industria".

Las encuestas británicas entretanto muestran que una cuarta parte de la población del país teme seriamente perder sus trabajos debido a la IA en los próximos cinco años. Pero para Amodei, esto es solo la punta del iceberg. Lo que le preocupa no es simplemente el mercado laboral, sino la sostenibilidad existencial de los sistemas humanos. ¿Podremos controlar una inteligencia que supera la nuestra? ¿Se convertirán nuestros procedimientos democráticos en lastre lento e inútil en un mundo donde las decisiones se toman en milisegundos? Amodei no da respuestas simples, pero su tono no deja dudas: ha llegado el fin del tiempo de la contemplación tranquila.

Este manifiesto parece un intento de establecer la agenda para los reguladores. Amodei entiende que si la industria no establece las reglas del juego ahora, las consecuencias serán incontrolables. Llama al mundo para que "despierte", insinuando que aún estamos en un estado de agradable semisomnolencia, disfrutando de cómo las redes neuronales escriben poemas para nosotros y dibujan figuras. Pero el poder real del que advierte no tiene nada que ver con el entretenimiento. Es una cuestión de redistribución de poder a escala global.

Lo principal: Anthropic solidifica definitivamente su papel como el "adulto en la sala" que no teme arruinar la fiesta con historias asustadoras. La única pregunta es si los otros gigantes de Silicon Valley escucharán este llamado, o si la carrera de armamentos de la IA entrará definitivamente en una etapa de caída incontrolable.