Yoshua Bengio y LawZero: por qué el miedo a la IA del futuro distrae de las amenazas de hoy

El debate sobre el futuro de la inteligencia artificial gira cada vez más en torno a escenarios en los que las máquinas llegan a ser inteligentes y escapan al control humano. La tesis central de este texto es otra: no hace falta esperar a una superinteligencia hipotética, porque los principales riesgos de la IA ya se han manifestado en la economía y la política reales. No se trata de una rebelión de las máquinas, sino de concentración de poder, vigilancia, presión sobre los trabajadores y uso de la tecnología en beneficio de grandes estructuras.

El autor afirma sin rodeos que no considera inteligentes los sistemas de IA actuales y que no ve motivos para suponer que unos modelos estadísticos impresionantes den lugar automáticamente a una inteligencia plena. Por eso interpreta las conversaciones del tipo «qué hacer si la IA se vuelve consciente» como una distracción conveniente o como un marco de marketing que permite hablar de catástrofes futuras espectaculares en lugar de los incómodos problemas del presente. De ahí la referencia a la «apuesta de Pascal»: el miedo a un suceso improbable pero grandioso empieza a marcar la agenda con más fuerza que las consecuencias ya observables.

Sin embargo, la posición del autor no se reduce a un tecnooptimismo incondicional. Al contrario, reconoce que comparte parte de las preocupaciones de los llamados «catastrofistas» de la IA, pero sitúa el origen de la amenaza no en el despertar de una mente artificial, sino en las personas e instituciones que ya controlan estos sistemas. Le inquieta que las herramientas digitales estén concentradas en manos de corporaciones cuya escala dificulta el control público. Le inquieta que la tecnología se use contra usuarios y trabajadores: para reforzar la vigilancia, automatizar la presión, endurecer las métricas de productividad e inclinar aún más el equilibrio de poder a favor de empleadores y Estados.

Aquí surge el principal choque con la corriente más futurista de la seguridad en IA. El motivo fue un debate público en Montreal, donde el autor participó junto con Astra Taylor y Yoshua Bengio. Bengio es uno de los investigadores más respetados del aprendizaje profundo, ganador del Premio Turing y un científico cuyo trabajo ayudó a dar forma al actual auge de la IA. Ahora participa en la iniciativa LawZero, que propone crear un consorcio internacional y desarrollar la IA como bien público digital: abierta, transparente, verificable y segura. Para los defensores de este enfoque, los riesgos a largo plazo son lo bastante serios como para construir instituciones de protección con antelación.

El autor, no obstante, discute menos la idea de tomar precauciones que el orden de prioridades. En su lógica, hablar de una superinteligencia hipotética se convierte con demasiada facilidad en una abstracción cómoda, mientras que los sistemas actuales de reconocimiento, recomendación, generación y evaluación del trabajo ya están integrados en mecanismos de control aquí y ahora. Influyen en la contratación, la productividad, la moderación, el acceso a la información y las relaciones entre Estado, empresas y ciudadanos. Cuando el poder se concentra en los gigantes tecnológicos y el Estado se apoya con gusto en sus herramientas, el problema deja de ser de ciencia ficción: pasa a ser político, social y laboral.

Esta mirada importa también porque cambia el lenguaje del debate. En lugar de «cómo salvar a la humanidad de una supermáquina autónoma», aparece un conjunto de temas más terrenal: quién posee los recursos de cómputo, quién fija las reglas de acceso a los datos, qué mecanismos de auditoría funcionan de verdad y quién responde por el daño de las decisiones automatizadas. Es una agenda menos espectacular que las predicciones apocalípticas, pero es la que determina si la tecnología reforzará la desigualdad o servirá al interés público.

Esa es la conclusión práctica. El debate sobre el futuro de la IA es importante, pero no debe sustituir a la conversación sobre la transparencia de los modelos, la rendición de cuentas de las plataformas, los derechos de los trabajadores y los límites de la vigilancia digital. Si la atención de la sociedad se centra solo en un escenario improbable de catástrofe futura, las corporaciones y los gobiernos tendrán aún más margen para tomar decisiones que empeoran la vida hoy.

El texto propone una óptica sencilla pero incómoda: la cuestión principal no es si la IA llegará a ser alguna vez demasiado inteligente, sino quién usa la IA actual, en interés de quién y con qué consecuencias para la sociedad.