Joshua Bengio y LawZero: por qué el miedo a la IA futura distrae de las amenazas actuales

El debate sobre el futuro de la inteligencia artificial cada vez más se construye alrededor de escenarios en los que las máquinas algún día se vuelvan inteligentes y se salgan del control. Pero la tesis principal de este texto es diferente: no hay necesidad de esperar una superinteligencia hipotética, porque los riesgos clave de la IA ya se han manifestado en la economía y política reales. No se trata de una rebelión de máquinas, sino de concentración del poder, vigilancia, presión sobre los trabajadores y uso de tecnologías en interés de grandes estructuras.

El autor afirma directamente que no considera inteligentes los sistemas de IA actuales y no ve fundamentos para creer que los impresionantes modelos estadísticos llevarán automáticamente a la aparición de inteligencia genuina. Por lo tanto, él percibe conversaciones en el espíritu de "qué hacer si la IA se vuelve consciente" como una distracción conveniente o como marco de marketing que permite discutir futuras catástrofes impresionantes en lugar de problemas incómodos del presente. De ahí la referencia a la "apuesta de Pascal": el miedo a un evento improbable pero grandioso comienza a dictar la agenda con más fuerza que las consecuencias ya observadas.

Al mismo tiempo, la posición del autor no se reduce al tecnoptimismo incondicional. Al contrario, reconoce compartir parte de las preocupaciones de los llamados apocalípticos de la IA, pero ve la fuente de la amenaza no en el despertar de la inteligencia de las máquinas, sino en las personas e instituciones que ya administran estos sistemas. Le preocupa que las herramientas digitales se concentren en manos de corporaciones cuya escala dificulta la supervisión pública.

Le preocupa que las tecnologías se utilicen contra usuarios y trabajadores: para intensificar la vigilancia, automatizar la presión, endurecer las métricas de productividad y desequilibrar aún más el balance de poder en favor de los empleadores y el estado. Aquí es donde surge el conflicto principal con la escuela más futurista de seguridad de la IA. La ocasión fue una discusión pública en Montreal, donde el autor habló junto a Astra Taylor y Joshua Bengio.

Bengio, uno de los investigadores más autorizados en aprendizaje profundo, laureado con el Premio Turing y científico cuyo trabajo ayudó a configurar el actual auge de la IA. Ahora participa en la iniciativa LawZero, que propone crear un consorcio internacional y desarrollar la IA como un bien digital público: abierto, transparente, verificable y seguro. Para los partidarios de este enfoque, los riesgos a largo plazo son suficientemente serios como para construir instituciones de protección de antemano.

El autor, sin embargo, no discute tanto la idea misma de tomar precauciones como el orden de prioridades. Según su lógica, la discusión sobre una superinteligencia hipotética demasiado fácilmente se convierte en una abstracción conveniente, mientras que los sistemas existentes de reconocimiento, recomendación, generación y evaluación del trabajo ya están incorporados en mecanismos de control aquí y ahora. Influyen en la contratación, la productividad, la moderación, el acceso a la información y las relaciones entre el estado, los negocios y los ciudadanos.

Cuando el poder se concentra en manos de gigantes tecnológicos, y el estado gustosamente se apoya en sus instrumentos, el problema deja de ser ciencia ficción: se vuelve político, social y laboral. Esta perspectiva es importante también porque cambia el lenguaje de la discusión misma. En lugar de la pregunta "cómo salvar a la humanidad de una supermáquina autónoma", surge un conjunto de temas más prosaicos: quién posee los recursos computacionales, quién establece las reglas de acceso a los datos, qué mecanismos de auditoría realmente funcionan y quién es responsable del daño causado por decisiones automatizadas.

Esta es una agenda menos espectacular que los pronósticos apocalípticos, pero es precisamente esta la que determina si las tecnologías intensificarán la desigualdad o trabajarán en el interés público. Y este es el resultado práctico. El debate sobre el futuro de la IA es importante, pero no debe sustituir la conversación sobre la transparencia de los modelos, la responsabilidad de las plataformas, los derechos de los trabajadores y los límites de la vigilancia digital.

Si la atención del público se concentra solo en el raro escenario de una catástrofe futura, las corporaciones y las autoridades obtendrán aún más espacio para soluciones que empeoren la vida ya hoy. El texto ofrece una óptica simple pero incómoda: la pregunta principal no es si la IA alguna vez se volverá demasiado inteligente, sino quién usa la IA actual, en cuyos intereses y con qué consecuencias para la sociedad.