Informe internacional de seguridad: la IA aprende a hackear y a hacer amigos

¿Recuerdas cuando, en la primera cumbre mundial sobre seguridad de la IA en 2023, todo el mundo debatía sobre una hipotética conquista del planeta por parte de terminators? Un año después, el discurso de los principales científicos se ha vuelto mucho más terrenal y, precisamente por eso, más inquietante. Yoshua Bengio, uno de los «padrinos» del deep learning moderno, ha presentado un nuevo informe que parece más un parte de guerra que una sosegada revisión académica. En el documento han trabajado con él figuras de peso como Geoffrey Hinton y el premio Nobel Daron Acemoglu. Cuando personas de este calibre se unen para advertir de «desafíos alarmantes», ignorarlas resulta, como mínimo, temerario.

El foco del documento se ha desplazado del futuro lejano a nuestro «mañana». El principal problema hoy ni siquiera es que la IA pueda adquirir conciencia de repente y lanzar misiles nucleares, sino la facilidad con la que ha aprendido a manipular nuestra realidad. Producir deepfakes se ha vuelto tan barato y su calidad es tan alta que el propio concepto de «prueba» en el entorno digital pronto dejará de existir. Entramos en una era en la que cualquier vídeo o audio puede generarse por unos céntimos. Eso abre posibilidades ilimitadas para el fraude y la manipulación política a una escala que antes requería el trabajo de servicios de inteligencia enteros.

Pero si los vídeos falsos eran algo más o menos previsible, el auge de los compañeros de IA se ha convertido para los autores del informe en un motivo de preocupación aparte. Estamos a las puertas de un experimento social a gran escala en el que los algoritmos empiezan a sustituir a amigos, interlocutores e incluso parejas sentimentales. Bengio y sus colegas subrayan que no tenemos ni idea de cómo afectará esto a la psique de las personas y al tejido social dentro de cinco o diez años. Cuando tu «mejor amigo» es un modelo optimizado cuyo objetivo es retener tu atención a cualquier precio, las relaciones humanas corren el riesgo de convertirse en algo secundario y demasiado complicado.

El lado tecnológico tampoco invita al optimismo. Los modelos aprenden a encontrar vulnerabilidades en el código más rápido de lo que los desarrolladores logran corregirlas. Esto transforma la ciberdelincuencia, que deja de ser un oficio de expertos solitarios altamente cualificados para convertirse en una producción en cadena. Antes, un ataque complejo exigía meses de preparación y un equipo de hackers; ahora basta con un prompt bien formulado y un par de minutos. Además de ayudar a escribir código, la IA democratiza el hacking y lo pone al alcance de cualquiera que tenga acceso a una API.

Del apartado económico del informe se encargó Daron Acemoglu, que lleva tiempo advirtiendo de los riesgos de una automatización excesiva. Acemoglu subraya que la IA no se limita a «crear nuevos empleos», como gustan de repetir los comunicados de prensa de las corporaciones. Transforma radicalmente la estructura del mercado laboral, a menudo en perjuicio del trabajador. El problema no es el desempleo total, sino la caída brusca del valor del trabajo humano. Cuando un algoritmo realiza una tarea en fracciones de segundo, a una persona le resulta cada vez más difícil justificar su salario dentro del viejo modelo económico, y eso conduce inevitablemente a una mayor desigualdad.

Este informe no pretende pisar el freno y detener el progreso; es más bien un llamamiento desesperado para que los reguladores despierten. Los gigantes tecnológicos avanzan a toda velocidad, empujados por la carrera armamentística y los resultados trimestrales, mientras la seguridad suele quedar relegada a un segundo plano como un «molesto obstáculo para la innovación». Mientras celebramos lo bien que una red neuronal escribe poemas o dibuja gatitos, esta aprende de paso a sortear sistemas de protección y a manipular la opinión pública.

Lo esencial: pasamos de la fase de entusiasmo infantil a la de una dura resaca. Hoy, la seguridad de la IA no consiste en luchar contra robots asesinos, sino en proteger nuestra capacidad de distinguir la verdad de la mentira y de mantener los vínculos humanos en un mundo donde un algoritmo siempre está dispuesto a convertirse en tu «mejor amigo» más comprensivo, pero profundamente falso. ¿Seremos capaces de establecer las reglas del juego a tiempo, o el genio tecnológico ya ha salido definitivamente de la lámpara?