OpenAI demite três pesquisadores de segurança, e eles respondem com carta aberta

Na semana passada, a OpenAI anunciou a demissão de três funcionários. A empresa afirma que uma investigação interna identificou violação das regras de acesso e tratamento de informações sensíveis: os funcionários teriam compartilhado dados confidenciais com uma organização externa que avalia a segurança de IA, e o teriam feito fora dos procedimentos estabelecidos. Agora, os três se manifestaram em uma carta aberta conjunta. A informação é do veículo chinês Jiqizhixin.

O que se sabe sobre as demissões

O estado atual do caso é este: há a posição oficial da empresa e a resposta dos demitidos. Não há confirmação independente dos fatos. A reportagem do Jiqizhixin cita nominalmente dois dos três. Jasmine Wang trabalhava com alinhamento de modelos (alignment). O segundo funcionário conduzia pesquisas de segurança e participava do trabalho técnico na interface entre a OpenAI e avaliadores externos. O nome do terceiro e o texto completo da carta não aparecem no trecho a que tivemos acesso, e por isso não relatamos o que não vimos.

Principais pontos da história:

• Demitidos: 3 funcionários.
• Base formal: violação das regras de acesso e de manejo de informações sensíveis.
• Essência da acusação: repasse de informações confidenciais a um avaliador externo de AI safety, fora dos procedimentos.
• Perfil dos demitidos: alignment e pesquisa de segurança, incluindo contato com auditores externos.
• Reação: carta aberta conjunta, na qual os demitidos expõem a própria versão dos fatos.

Por que o caso é sensível

A avaliação externa de segurança depende de acesso. Para que um grupo independente teste um modelo quanto a capacidades perigosas, ele precisa de dados sobre o comportamento do sistema, resultados de testes e, muitas vezes, informações sobre decisões internas. A empresa, por sua vez, tem interesse legítimo em controlar o que sai e para quem. Cada troca segue por canais acordados, com acordos de confidencialidade e um conjunto restrito de materiais.

Os demitidos atuavam justamente nessa interface. Por isso, a disputa provavelmente não gira em torno do contato com avaliadores externos em si, mas de duas questões: o que exatamente foi repassado e se o procedimento foi cumprido. A versão da OpenAI se resume a uma violação de regulamento. O que os funcionários alegam só ficará claro com o texto completo da carta. Enquanto as duas partes descreverem os eventos de maneiras diferentes, é cedo para concluir quem tem razão.

Há ainda o lado reputacional. Laboratórios que falam publicamente sobre segurança costumam ouvir a mesma pergunta: o que acontece com funcionários que levantam problemas? A demissão de pessoas das equipes de alignment e safety, mesmo por motivos formalmente procedimentais, inevitavelmente será lida como um sinal para o mercado, para os reguladores e para futuros candidatos.

O que verificar a partir de agora

Para quem acompanha o setor, vale separar três camadas. A primeira: o que os materiais da carta mostram, caso incluam documentos ou uma cronologia. A segunda: se a OpenAI vai responder publicamente e com quais fatos, e não apenas com a fórmula genérica de violação de regras. A terceira: como reagirão os próprios avaliadores externos, já que o outro lado da transferência de dados ainda não se pronunciou.

Equipes que estruturam processos de auditoria externa de modelos devem revisar as próprias práticas. São necessários canais escritos para a transferência de dados, níveis de acesso bem definidos e um procedimento claro para funcionários que acreditam que a empresa esconde riscos. Se não existe um caminho interno legítimo, os conflitos vão aparecer do lado de fora, na forma de demissões e cartas abertas.