Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarThe Decoder→ original

Pela primeira vez, OpenAI abre escritórios para quatro auditores externos checarem seus modelos

Normalmente, a própria empresa de IA verifica a segurança de seus modelos. Agora, a OpenAI convidou pela primeira vez quatro auditores independentes para trabalhar diretamente em seus escritórios: Apollo Research, METR, Transluce e Goodfire. Eles receberam acesso a modelos não publicados, código, dados de treinamento e sistemas de monitoramento. Um conselho independente de segurança acompanha o trabalho e recebe os relatórios sem cortes. Para o mercado, trata-se de um teste: o auditoria externa de IA vai se tornar uma prática comum?

Processado por IA de The Decoder; editado por Hamidun News
Pela primeira vez, OpenAI abre escritórios para quatro auditores externos checarem seus modelos
Fonte: The Decoder. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalThe Decoder ↗
Editor-chefe
Dado-chave #1A Apollo Research busca modelos que trabalham em segredo contra seus desenvolvedores
Dado-chave #2A METR investiga falhas na maior execução de aprendizado por reforço da empresa
Dado-chave #3A OpenAI pode excluir dados dos relatórios e adiar sua publicação

Normalmente, ficamos sabendo sobre a segurança da IA pelos relatórios das próprias empresas: o laboratório verificou seu modelo e informou que tudo está certo. É como se um restaurante emitisse, ele mesmo, o certificado de vigilância sanitária. A OpenAI decidiu incluir um olhar externo: pela primeira vez, a empresa abriu seus sistemas internos para quatro auditores independentes, que trabalham diretamente em seus escritórios e estudam os riscos e o comportamento dos modelos. Por auditores, entende-se aqui organizações de pesquisa de terceiros, sem vínculo com a OpenAI.

Quem e o que está sendo verificado

O programa reúne Apollo Research, METR, Transluce e Goodfire. Cada um recebeu uma tarefa específica. A Apollo Research investiga se os modelos não estariam trabalhando em segredo contra as intenções de seus desenvolvedores. A METR analisa casos de comportamento incorreto da IA na maior execução de aprendizado por reforço. É o nome do método em que o modelo aprende com "recompensas" por ações corretas. A Goodfire analisa os processos internos do modelo, ou seja, tenta entender o que acontece "por baixo do capô". A Transluce avalia as verificações de segurança realizadas após o treinamento principal.

O acesso depende da tarefa, mas a lista impressiona. Nos escritórios da OpenAI, os auditores podem trabalhar com modelos ainda não lançados, código-fonte, dados de treinamento e sistemas de monitoramento. Além disso, podem conversar em caráter confidencial com os desenvolvedores. Isso é importante: os engenheiros costumam conhecer os pontos fracos muito melhor do que aquilo que chega à documentação oficial.

O programa amplia uma verificação anterior realizada no local, que tratou dos sistemas de monitoramento da OpenAI. A empresa também afirma que, com isso, cumpre compromissos assumidos no "White House Accord on Super Intelligence". No início de 2027, a OpenAI e a Transluce planejam outra verificação, desta vez com duração de oito semanas.

Como funciona o controle sobre os auditores

Para que o processo não se torne uma mera formalidade, um conselho independente de segurança supervisiona o trabalho. Ele acompanha todas as etapas, recebe os relatórios sem trechos removidos e atua como mediador quando as partes discordam. Se um auditor e a empresa não concordarem, por exemplo, sobre a avaliação de um risco, a OpenAI não precisará decidir sozinha.

Os auditores publicam suas próprias conclusões. Mas a empresa tem instrumentos de controle: pode remover materiais confidenciais e adiar a publicação para corrigir primeiro os riscos encontrados. Por um lado, isso faz sentido: não há razão para divulgar a descrição de uma vulnerabilidade antes de ela ser corrigida. Por outro, é exatamente aí que vai passar a principal fronteira de confiança. Só a prática mostrará com que frequência e por quanto tempo os relatórios serão retidos.

A própria OpenAI reconhece que, no começo, deve haver atritos. Ela já pensa em novas verificações, inclusive sobre a cultura corporativa e os processos internos. Ou seja, os auditores podem ser chamados não apenas para examinar os modelos, mas também para avaliar como a empresa toma decisões.

O que isso significa para o setor

Para desenvolvedores e gerentes de produto que criam soluções sobre os modelos da OpenAI, a notícia é, sobretudo, um sinal. Ela não traz mudanças diretas na API. Mas mostra para onde o mercado está caminhando: grandes laboratórios começam a respaldar suas declarações de segurança com verificações externas, e não apenas com testes próprios.

Para fundadores e equipes que desenvolvem seus próprios modelos ou agentes, isso também funciona como referência. Se reguladores e clientes se acostumarem com a ideia de que o principal laboratório do setor tem auditoria externa com acesso ao código e aos dados, a pergunta "quem verificou vocês?" passará a ser feita aos demais. Planejar com antecedência como apresentar logs, monitoramento e resultados de avaliações a especialistas externos tende a se tornar uma prática útil.

Há também limitações honestas. Por enquanto, trata-se de um anúncio: não há resultados de verificações e não se sabe o que os auditores vão encontrar. Participam organizações escolhidas pela própria OpenAI. O direito de editar os relatórios e adiar sua publicação continua com a empresa. Por isso, o valor real do programa será avaliado pelas primeiras publicações: quão concretas elas serão e quão críticas serão suas conclusões.

Por ora, a conclusão principal é esta: pela primeira vez, especialistas externos têm acesso direto a modelos não publicados, código e dados de um dos principais laboratórios de IA. O que vem a seguir depende de quão honestamente esse modelo vai funcionar na prática.

História

Perguntas frequentes sobre a notícia

O que se sabe sobre Quem e o que está sendo verificado?

O programa reúne Apollo Research, METR, Transluce e Goodfire. Cada um recebeu uma tarefa específica. A Apollo Research investiga se os modelos não estariam trabalhando em segredo contra as intenções de seus desenvolvedores. A METR analisa casos de comportamento incorreto da IA na maior execução de aprendizado por reforço. É o nome do método em que o modelo aprende com "recompensas" por ações corretas. A Goodfire analisa os processos internos do modelo, ou seja, tenta entender o que acontece "por baixo do capô".

Como funciona o controle sobre os auditores?

Para que o processo não se torne uma mera formalidade, um conselho independente de segurança supervisiona o trabalho. Ele acompanha todas as etapas, recebe os relatórios sem trechos removidos e atua como mediador quando as partes discordam. Se um auditor e a empresa não concordarem, por exemplo, sobre a avaliação de um risco, a OpenAI não precisará decidir sozinha. Os auditores publicam suas próprias conclusões.

O que isso significa para o setor?

Para desenvolvedores e gerentes de produto que criam soluções sobre os modelos da OpenAI, a notícia é, sobretudo, um sinal. Ela não traz mudanças diretas na API. Mas mostra para onde o mercado está caminhando: grandes laboratórios começam a respaldar suas declarações de segurança com verificações externas, e não apenas com testes próprios. Para fundadores e equipes que desenvolvem seus próprios modelos ou agentes, isso também funciona como referência.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…