Iason Gabriel: como um filósofo do Google DeepMind tenta tornar a AI segura

Em 2017, o filósofo político Jason Gabriel ingressou no Google DeepMind com uma pergunta que a maioria das empresas de tecnologia prefere não fazer: o que a inteligência artificial realmente é — e o que acontecerá quando ela se tornar poderosa o suficiente?

O Caminho de Oxford para DeepMind

Jason Gabriel tinha 33 anos quando um amigo sugeriu que ele se candidatasse ao DeepMind — a divisão londrina do Google, onde se concentra uma parcela significativa da pesquisa de IA da empresa. A proposta parecia longe de ser óbvia. Gabriel era um acadêmico típico — apaixonado, mas retraído em si mesmo.

Fellow do St John's College, Oxford, ele lecionava cursos de teoria política e escrevia artigos sobre os pontos cegos do altruísmo eficaz e as contradições morais da "ética yuppie". Filho mais velho de um professor grego de administração e de uma cineasta documentarista britânica, ele dividia seu tempo entre ensino e projetos internacionais de desenvolvimento. Nos momentos livres — meditação Vipassana e, segundo seu irmão, escalada "entusiasmada".

Entre palestras, Gabriel conseguia participar de programas de crise das Nações Unidas — no Sudão e no Líbano. Essa combinação de teoria acadêmica e dura realidade de campo aparentemente moldou seu temperamento profissional: pensar nas consequências antes que elas aconteçam.

Um Eticista Dentro da Máquina

No DeepMind, Gabriel se dedicou a algo que praticamente não existia antes como uma disciplina separada: analisar sistematicamente para onde o desenvolvimento de IA poderia levar — e construir estruturas éticas antes que os problemas se tornassem irreversíveis. Isso não é filosofia pela filosofia. DeepMind é o laboratório que criou AlphaGo e AlphaFold, sistemas que mudaram radicalmente nossa compreensão das capacidades das máquinas. A pergunta "o que é IA realmente" aqui não é um debate acadêmico abstrato, mas uma tarefa prática.

"Há um mistério profundo no que essa coisa realmente é", descreve

Gabriel a natureza dos sistemas de IA modernos.

Entre as áreas em que trabalha:

• Estruturas morais para sistemas autônomos de tomada de decisão
• Transparência e explicabilidade de IA para a sociedade e reguladores
• Riscos geopolíticos da corrida tecnológica entre EUA e China
• Engajamento com a sociedade civil e órgãos legislativos
• Questões de identidade para sistemas potencialmente conscientes

Pressão Comercial e os Limites da Influência

À medida que os laboratórios de IA se transformam de centros de pesquisa em motores comerciais, o papel dos eticistas dentro deles se torna cada vez mais ambíguo. Especialistas como Gabriel participam de discussões internas reais — sobre design de sistemas, sobre dados permissíveis, sobre limitações rigorosas. Mas eles permanecem funcionários de empresas que prestam contas aos acionistas e competem para acompanhar OpenAI, Meta e desenvolvedores chineses. Essa questão — sobre a influência real, não meramente declarativa, de eticistas dentro dos gigantes da tecnologia — se torna central conforme a IA deixa de ser um experimento de laboratório e se torna infraestrutura que molda as vidas de bilhões de pessoas.

O Que Isso Significa

A história de Jason Gabriel é um indicador: o quão sério as grandes empresas de IA levam a ética não em nível de comunicados de imprensa, mas na cultura real de tomada de decisão. Se os filósofos dentro do DeepMind conseguem realmente mudar algo — isso importa mais do que qualquer avanço tecnológico. Se não conseguem — devemos saber disso.

*Meta foi reconhecida como organização extremista e é proibida na RF.