OpenAI recebe seis avaliadores da Apollo por quatro meses
A OpenAI deixou seis avaliadores da Apollo Research entrarem na empresa por quatro meses, para procurar sinais de que os modelos estão contornando restrições de segurança. Antes, a Apollo recebia modelos apenas perto do lançamento; agora vai acompanhar o treinamento, os testes e o uso interno. O acesso é limitado: a OpenAI escolhe com quem os avaliadores podem conversar e pode esconder parte dos materiais. É um teste para saber se uma auditoria externa de IA é possível sem que a empresa censure as conclusões.
Processado por IA de TNW; editado por Hamidun News
Normalmente, a verificação externa de segurança de IA funciona assim: o laboratório termina o modelo, entrega para testes algumas semanas antes do lançamento e depois publica um relatório favorável. A Apollo Research e a OpenAI decidiram testar outro formato. Seis avaliadores da Apollo vão ficar dentro da OpenAI por quatro meses para verificar se os modelos tentam minar os mecanismos de controle e alinhamento que deveriam mantê-los dentro dos limites.
O que exatamente será verificado
A análise cobre não apenas o modelo final, mas todo o processo: treinamento, testes e uso interno. Isso é importante porque, na visão da Apollo, é tarde demais para identificar, logo antes do lançamento, uma situação em que o modelo persegue silenciosamente objetivos que seus criadores não definiram. Até esse momento, o comportamento poderia já ter se consolidado durante o treinamento.
A equipe vai buscar respostas para quatro perguntas. A primeira: o treinamento recompensa o modelo por contornar restrições, e isso pode ser detectado com testes? A segunda: esse comportamento aparece quando a própria OpenAI usa os modelos internamente, e o modelo se denuncia em seu raciocínio? O uso interno é um risco real: em julho, a OpenAI já suspendeu um dos seus modelos internos.
Na primeira frente, a de treinamento, a OpenAI vai fornecer o código de treinamento, os dados e os registros de raciocínio do modelo a partir de execuções reais de treinamento. Para as outras três frentes, o acesso ainda não foi acordado.
Onde ficam os limites
As condições estão longe de ser total liberdade. A OpenAI escolhe com quais funcionários os avaliadores podem conversar, e as conversas formais são registradas. A equipe vai trabalhar em equipamentos da OpenAI, em canais que podem ser monitorados, e sem acesso ao Slack corporativo, onde muito do que é informal costuma ser discutido.
A OpenAI pode reter materiais por motivos de segurança ou de proteção à propriedade intelectual, mas não porque eles lhe pareçam inconvenientes. A Apollo vai publicar dois relatórios. A OpenAI pode pedir que provas confidenciais sejam fechadas, mas não pode remover as conclusões da Apollo. Além disso, a Apollo pode contar publicamente em que pontos teve pedidos negados e como isso afeta a confiabilidade de suas conclusões.
Esse último ponto é o mais interessante. A Apollo chama isso de metatransparência: se os avaliadores não encontrarem nada, isso não significa que tudo esteja limpo. Talvez simplesmente não tenham podido olhar onde estão os problemas. Revelar as limitações permite que o leitor do relatório avalie por conta própria o quanto um resultado "limpo" realmente prova.
Contexto e o que fazer com isso
O acordo dá continuidade a passos recentes da OpenAI: Sam Altman já havia falado sobre testadores externos com acesso próximo ao dos funcionários, e a empresa planejava permitir que grupos terceiros testassem modelos durante o próprio treinamento. Nesse cenário, a Apollo considera o piloto apenas um primeiro passo: o acesso completo e o direito de publicar livremente os resultados que ela busca ainda estão distantes.
A conclusão prática para desenvolvedores e gestores de produto que constroem sobre modelos da OpenAI ou sistemas próprios com agentes é a seguinte. Primeiro, o formato de "auditor dentro do processo" pode se tornar norma para grandes laboratórios, e os clientes vão começar a perguntar como o comportamento dos modelos é verificado. Segundo, ao ler qualquer relatório de segurança, vale olhar não só os resultados, mas também as condições: o que foi mostrado ao auditor, o que foi escondido e quem escolheu os interlocutores. Se você mesmo estrutura uma auditoria interna de agentes, adote o mesmo princípio: defina antecipadamente o que não pode ser editado nas conclusões e descreva abertamente as restrições de acesso.
Uma ressalva honesta: um piloto de quatro meses com seis pessoas não garante que um comportamento perigoso será encontrado, e parte dos acessos ainda não foi acordada. Mas o fato de os veredictos dos avaliadores não poderem ser apagados, e de as recusas poderem ser divulgadas, torna o experimento bem mais substancial do que uma verificação comum antes do lançamento.
- 21 de nov. de 2026Matemático da Anthropic afirma que o Claude ajudou a provar a hipótese de Riemann em seis semanas
- 21 de nov. de 2026Startup Osmo treinou IA com cheiros usando 10 milhões de avaliações humanas e gera fragrâncias a partir de texto
- 21 de nov. de 2026Coreia do Norte mostra seu primeiro chatbot, "Fonte da Sabedoria": só ciência, sem política
- 21 de nov. de 2026OpenAI libera o ChatGPT Spaces para assinantes do Plus: documentos colaborativos com IA
Perguntas frequentes sobre a notícia
O que exatamente será verificado?
A análise cobre não apenas o modelo final, mas todo o processo: treinamento, testes e uso interno. Isso é importante porque, na visão da Apollo, é tarde demais para identificar, logo antes do lançamento, uma situação em que o modelo persegue silenciosamente objetivos que seus criadores não definiram. Até esse momento, o comportamento poderia já ter se consolidado durante o treinamento. A equipe vai buscar respostas para quatro perguntas.
Onde ficam os limites?
As condições estão longe de ser total liberdade. A OpenAI escolhe com quais funcionários os avaliadores podem conversar, e as conversas formais são registradas. A equipe vai trabalhar em equipamentos da OpenAI, em canais que podem ser monitorados, e sem acesso ao Slack corporativo, onde muito do que é informal costuma ser discutido. A OpenAI pode reter materiais por motivos de segurança ou de proteção à propriedade intelectual, mas não porque eles lhe pareçam inconvenientes. A Apollo vai publicar dois relatórios.
O que se sabe sobre Contexto e o que fazer com isso?
O acordo dá continuidade a passos recentes da OpenAI: Sam Altman já havia falado sobre testadores externos com acesso próximo ao dos funcionários, e a empresa planejava permitir que grupos terceiros testassem modelos durante o próprio treinamento. Nesse cenário, a Apollo considera o piloto apenas um primeiro passo: o acesso completo e o direito de publicar livremente os resultados que ela busca ainda estão distantes.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.