Bengio pede que funcionários de laboratórios de fronteira saiam em nome da segurança da IA

Yoshua Bengio, um dos três "padrinhos" do aprendizado profundo e vencedor do Prêmio Turing de 2018, publicou na Transformer uma coluna com um apelo direto. Para quem realmente considera a segurança da IA uma prioridade, ele aconselha deixar as empresas de fronteira. O título soa como um ultimato, e a chamada esclarece o público-alvo: funcionários dos principais laboratórios, a quem Bengio convida a se juntar à luta por um futuro mais seguro. Não temos o texto completo da coluna, apenas o título e a chamada. Por isso, o que segue é o contexto e a lógica do debate, não um resumo dos argumentos do autor.

O que se sabe sobre a declaração

Os dados publicados permitem montar o seguinte quadro:

• Autor: Yoshua Bengio, professor da Universidade de Montreal e um dos cientistas mais citados da ciência da computação.
• Veículo: Transformer News, publicação que cobre política e indústria de IA. A coluna foi escrita em exclusivo para ela.
• Destinatários: funcionários de laboratórios de fronteira, ou seja, as empresas que treinam os modelos mais poderosos.
• Tese central, segundo o título: priorizar a segurança e trabalhar nessas empresas são coisas pouco compatíveis.
• Data de publicação: 8 de outubro de 2026.

Só pelo título, não dá para saber se Bengio cita empresas específicas nem se propõe alternativas, como a academia, organizações sem fins lucrativos ou instituições públicas. Vale conferir isso no texto original.

Por que as palavras dele pesam mais

Bengio deixou de lado a ciência pura há algum tempo e assumiu uma posição pública sobre os riscos da IA. Em 2023, assinou a carta aberta que pedia a suspensão do treinamento dos sistemas mais poderosos. Depois, passou a liderar o relatório internacional sobre segurança de IA avançada, cuja primeira edição saiu em janeiro de 2025. Em junho de 2025, lançou a organização sem fins lucrativos LawZero, com financiamento de cerca de 30 milhões de dólares. O objetivo é desenvolver sistemas que não atuem como agentes autônomos e, por isso, sejam mais fáceis de controlar.

Ou seja, Bengio não se limita a comentar a indústria de fora. Ele constrói uma plataforma institucional alternativa e, a julgar pela coluna, convida pessoas a integrá-la. Dá para enxergar aí tanto uma posição de princípios quanto uma agenda de recrutamento: especialistas talentosos em segurança são poucos, e cada um deles faz diferença.

O debate "por dentro ou por fora"

Esse debate tem história. Em 2021, um grupo de pesquisadores saiu da OpenAI e fundou a Anthropic, em grande parte por divergências sobre segurança. Em maio de 2024, Ilya Sutskever e Jan Leike deixaram a empresa, e Leike escreveu publicamente que a cultura de segurança havia perdido espaço para produtos chamativos. Em junho de 2024, funcionários atuais e antigos da OpenAI e do Google DeepMind divulgaram a carta "Right to Warn", sobre o direito de alertar a sociedade a respeito dos riscos. Geoffrey Hinton saiu do Google em 2023 para poder falar livremente.

A posição de "ficar e influenciar" tem um argumento forte. Só dentro do laboratório é possível ver os modelos reais, os resultados das avaliações e as decisões internas sobre lançamentos. Sair tira da pessoa o acesso e a alavanca de influência, e o lugar dela será ocupado por alguém que se preocupa menos com segurança. O argumento de Bengio vai no sentido oposto: a pressão comercial sobre o laboratório é maior que a influência de funcionários individuais, e pesquisa independente, regulação e controle público avançam mais rápido quando os melhores especialistas não estão presos a acordos de confidencialidade.

Conclusões práticas

Para engenheiros e pesquisadores, a coluna é uma oportunidade de avaliar com honestidade quais decisões de segurança eles realmente conseguem mudar na posição em que estão e se têm garantias de que poderão falar publicamente sobre riscos. Os líderes de laboratórios devem rever como funcionam os canais de escalonamento, as condições de desligamento e a política em relação a whistleblowers. Caso contrário, apelos desse tipo passarão a afetar a contratação e a retenção de funcionários.

Investidores e reguladores devem observar se as palavras serão seguidas por uma saída expressiva de especialistas em segurança. Se isso acontecer, será um sinal mais forte que qualquer coluna. Por ora, o mais sensato para o leitor é ler o original na Transformer por inteiro, para separar os argumentos de Bengio do título, que por natureza é mais incisivo que o texto.