Iason Gabriel: el filósofo de Google DeepMind que intenta hacer segura la IA

En 2017, el filósofo político Iason Gabriel llegó a Google DeepMind con una pregunta que la mayoría de las empresas tecnológicas prefieren no plantearse: ¿qué es realmente la inteligencia artificial y qué ocurrirá cuando sea lo bastante potente?

De Oxford a DeepMind

Iason Gabriel tenía 33 años cuando un amigo le sugirió presentar su candidatura a DeepMind, la división londinense de Google que concentra buena parte de la investigación de la compañía en IA. La propuesta no tenía nada de obvia.

Gabriel era el típico académico: apasionado, pero absorto en su mundo. Como fellow del St John's College de Oxford, impartía cursos de teoría política y escribía artículos sobre los puntos ciegos del altruismo eficaz y las contradicciones morales de la «ética yuppie». Hijo mayor de un profesor griego de gestión empresarial y de una documentalista británica, repartía su tiempo entre la docencia y proyectos internacionales de desarrollo. En su tiempo libre practicaba meditación Vipassana y, según su hermano, escalada «con entusiasmo».

Entre clase y clase, Gabriel participaba en programas de crisis de la ONU en Sudán y el Líbano. Esa combinación de teoría académica y duras realidades sobre el terreno probablemente moldeó su temperamento profesional: pensar en las consecuencias antes de que lleguen.

Un ético dentro de la máquina

En DeepMind, Gabriel se dedicó a algo que apenas existía como disciplina propia: analizar de forma sistemática adónde puede llevar el desarrollo de la IA y construir marcos éticos antes de que los problemas se vuelvan irreversibles.

Aquí la filosofía tiene un propósito práctico. DeepMind es el laboratorio que creó AlphaGo y AlphaFold, sistemas que cambiaron de forma radical la idea de lo que pueden hacer las máquinas. En este contexto, la pregunta «qué es realmente la IA» deja de ser un debate académico abstracto y se convierte en una tarea de trabajo.

«Hay un profundo misterio en lo que esta cosa es realmente», así describe

Gabriel la naturaleza de los sistemas de IA actuales.

Entre las áreas en las que trabaja:

• Marcos morales para sistemas autónomos de toma de decisiones
• Transparencia y explicabilidad de la IA para la sociedad y los reguladores
• Riesgos geopolíticos de la carrera tecnológica entre Estados Unidos y China
• Interacción con la sociedad civil y los órganos legislativos
• Cuestiones de identidad de sistemas potencialmente conscientes

Presión comercial y límites de la influencia

A medida que los laboratorios de IA pasan de ser centros de investigación a motores comerciales, el papel de los éticos en su interior se vuelve cada vez más ambiguo.

Especialistas como Gabriel participan en debates internos reales: sobre el diseño de los sistemas, sobre qué datos son admisibles, sobre restricciones estrictas. Pero siguen siendo empleados de empresas que rinden cuentas ante sus accionistas y compiten para no quedarse atrás frente a OpenAI, Meta y los desarrolladores chinos.

Esta cuestión —la influencia real, y no declarativa, de los éticos dentro de los gigantes tecnológicos— se vuelve central a medida que la IA deja de ser un experimento de laboratorio y se convierte en una infraestructura que determina la vida de miles de millones de personas.

Qué significa esto

La historia de Iason Gabriel funciona como indicador: muestra hasta qué punto las grandes empresas de IA se toman en serio la ética, no en los comunicados de prensa, sino en su cultura real de toma de decisiones. Si los filósofos de DeepMind son capaces de cambiar algo, eso importa más que el próximo avance tecnológico. Si no lo son, deberíamos saberlo.

*Meta ha sido declarada organización extremista y está prohibida en Rusia.