Anthropic e OpenAI buscam influenciar o que auditores externos podem publicar

A Reuters informou em 13 de outubro, citando duas pessoas familiarizadas com o assunto, que Anthropic e OpenAI buscam influência considerável sobre o que revisores externos de seus modelos podem publicar. O motivo, segundo as fontes, é o mesmo para as duas empresas: o receio de que as conclusões das avaliações revelem segredos comerciais. Há também um detalhe incômodo. Os dois laboratórios prometeram, muito recentemente, liberdade de ação aos avaliadores independentes.

O que se sabe até agora

Há poucos fatos na reportagem, e eles são formulados com cautela. As negociações relatadas pelas fontes da Reuters tratam das condições em que grupos externos recebem acesso aos modelos e publicam resultados. Os laboratórios querem ter voz na hora da publicação. A parte disponível do material não esclarece o tamanho dessa influência. Não foram citados nem os avaliadores específicos nem o formato das restrições: aprovação prévia do texto, direito de sugerir alterações, adiamento ou veto direto.

O material original do TNW é interrompido no ponto em que menciona que, no mês passado, o CEO da Anthropic, Dario Amodei, fez uma declaração. O trecho disponível não permite saber o que exatamente ele disse, por isso não vou reproduzir o que foi dito.

Onde surge o conflito

A avaliação externa de um modelo só faz sentido quando o autor do modelo não controla o texto final. Se o laboratório pode suavizar as formulações ou atrasar a publicação, o relatório vira um press release combinado, com o logotipo de outra organização.

O receio dos laboratórios, porém, não é inventado. Para testar um modelo a sério, o avaliador precisa interagir com ele em profundidade: modos de acesso fora do padrão, versões iniciais, detalhes sobre o comportamento do sistema. Um relatório permite deduzir muito sobre métodos de treinamento, decisões de arquitetura e pontos fracos. Para empresas que disputam clientes corporativos e têm avaliações de mercado de centenas de bilhões de dólares, essa é uma informação sensível.

A indústria já tem um modelo de compromisso pronto. Na segurança da informação, vale há muito tempo a divulgação coordenada de vulnerabilidades: o fornecedor recebe um prazo fixo para corrigir a falha (no Google Project Zero, são 90 dias), e depois disso o pesquisador publica o resultado, com ou sem a concordância do fornecedor. Os laboratórios podem reivindicar a checagem de erros factuais e uma revisão para impedir o vazamento de segredos reais. Direito de veto sobre as conclusões é outra história.

O que ficou registrado na reportagem

• Fonte: Reuters, duas pessoas familiarizadas com o assunto, ambas anônimas.
• Envolvidas: Anthropic e OpenAI.
• Objeto da disputa: o grau de controle sobre as publicações dos revisores externos.
• Argumento oficial dos laboratórios: proteção de segredos comerciais.
• Contradição: as promessas públicas recentes de dar liberdade de ação aos avaliadores.
• Desconhecido: as condições dos contratos, os nomes dos avaliadores e o mecanismo de aprovação.

Como ler essas promessas na prática

Para quem compra modelos, escreve exigências regulatórias ou cobre o setor, a conclusão é uma só: a expressão "avaliação independente" não significa nada sem as condições de publicação. Vale observar alguns pontos.

Primeiro: o que exatamente é submetido a aprovação antes da divulgação do relatório, se a checagem factual e os segredos ou a redação das conclusões. Segundo: se existe um prazo rígido, depois do qual o avaliador publica o resultado sem consentimento. Terceiro: se o relatório é obrigado a informar que parte do material foi omitida e por qual motivo. Quarto: quem paga o avaliador. O financiamento pela empresa avaliada não é, por si só, um defeito, mas, somado ao controle sobre o texto, gera conflito de interesses.

Enquanto os dois laboratórios não revelarem publicamente as condições, é razoável ler os relatórios de auditorias externas levando em conta a possibilidade de edição. Se a Reuters estiver certa, o próximo teste prático é simples: ver se os avaliadores farão declarações públicas sobre as condições em que trabalharam e se essas condições coincidirão com o que as empresas prometeram antes.