Iason Gabriel: cómo un filósofo de Google DeepMind intenta hacer segura la AI

En 2017, el filósofo político Jason Gabriel se unió a Google DeepMind con una pregunta que la mayoría de las empresas de tecnología prefieren no hacer: ¿qué es realmente la inteligencia artificial — y qué sucederá cuando se vuelva lo suficientemente poderosa?

El Camino desde Oxford hasta DeepMind

Jason Gabriel tenía 33 años cuando un amigo le sugirió que se postulara a DeepMind — la división londinense de Google, donde se concentra una parte significativa de la investigación de IA de la empresa. La propuesta parecía lejos de ser obvia. Gabriel era un académico típico — apasionado, pero retraído en sí mismo.

Fellow del St John's College, Oxford, enseñaba cursos de teoría política y escribía artículos sobre los puntos ciegos del altruismo efectivo y las contradicciones morales de la "ética yuppie". Hijo mayor de un profesor griego de gestión y una cineasta documentalista británica, dividía su tiempo entre la docencia y proyectos internacionales de desarrollo. En su tiempo libre — meditación Vipassana y, según su hermano, escalada "entusiasta".

Entre clases, Gabriel lograba participar en programas de crisis de las Naciones Unidas — en Sudán y Líbano. Esta combinación de teoría académica y dura realidad de campo aparentemente moldeó su temperamento profesional: pensar en las consecuencias antes de que ocurran.

Un Eticista Dentro de la Máquina

En DeepMind, Gabriel se dedicó a algo que apenas había existido previamente como disciplina separada: analizar sistemáticamente hacia dónde podría llevar el desarrollo de la IA — y construir marcos éticos antes de que los problemas se volvieran irreversibles. Esto no es filosofía por filosofía. DeepMind es el laboratorio que creó AlphaGo y AlphaFold, sistemas que cambiaron radicalmente nuestra comprensión de las capacidades de las máquinas. La pregunta "¿qué es realmente la IA?" aquí no es un debate académico abstracto, sino una tarea práctica.

"Hay un misterio profundo en lo que esta cosa realmente es", así describe

Gabriel la naturaleza de los sistemas de IA modernos.

Entre las áreas en las que trabaja:

• Marcos morales para sistemas autónomos de toma de decisiones
• Transparencia y explicabilidad de la IA para la sociedad y los reguladores
• Riesgos geopolíticos de la carrera tecnológica entre EE.UU. y China
• Compromiso con la sociedad civil y órganos legislativos
• Cuestiones de identidad para sistemas potencialmente conscientes

Presión Comercial y los Límites de la Influencia

A medida que los laboratorios de IA se transforman de centros de investigación en motores comerciales, el papel de los eticistas dentro de ellos se vuelve cada vez más ambiguo. Especialistas como Gabriel participan en discusiones internas reales — sobre diseño de sistemas, sobre datos permisibles, sobre limitaciones estrictas. Pero siguen siendo empleados de empresas que responden ante accionistas y compiten para mantenerse al día con OpenAI, Meta y desarrolladores chinos. Esta pregunta — sobre la influencia real, no meramente declarativa, de los eticistas dentro de los gigantes tecnológicos — se vuelve central conforme la IA deja de ser un experimento de laboratorio y se convierte en infraestructura que define la vida de miles de millones de personas.

Lo Que Significa

La historia de Jason Gabriel es un indicador: cuánta seriedad las grandes empresas de IA dan a la ética no a nivel de comunicados de prensa, sino en la cultura real de toma de decisiones. Si los filósofos dentro de DeepMind pueden realmente cambiar algo — eso importa más que cualquier avance tecnológico. Si no pueden — deberíamos saberlo.

*Meta ha sido reconocida como organización extremista y está prohibida en la RF.