A Constituição da Anthropic: Claude agora segue regras (e isso importa)

Imagine criar algo potencialmente mais inteligente que você e tentar explicar a isso o que é "bom" e o que é "ruim". Não é o roteiro de um blockbuster de Hollywood, mas a realidade diária da Anthropic. Enquanto o setor debate quantas placas de vídeo são necessárias para a felicidade, os criadores do Claude escolheram outro caminho e escreveram uma verdadeira Constituição para sua rede neural. Não é apenas uma lista de palavras proibidas ou filtros rígidos de entrada. É uma tentativa de embutir no código algo como uma consciência, que deve funcionar mesmo quando os desenvolvedores olham para o outro lado.

A Anthropic se posicionou desde o início como um "laboratório de segurança", fundado por ex-integrantes da OpenAI que divergiram de Sam Altman em questões de comercialização e ética. Desde então, a empresa de Dario Amodei constrói metodicamente a imagem de jogador mais responsável do mercado. Publicar o texto da Constituição não é só um gesto de boa vontade, mas um xeque estratégico no grande jogo pela influência sobre os governos do mundo. Quando reguladores em Washington ou Bruxelas perguntam como vamos controlar uma futura superinteligência, a Anthropic já tem a resposta na forma de um documento. Ela não apenas treina o modelo: tenta chegar a um acordo com ele, criando um marco claro de convivência.

A abordagem se baseia na tecnologia Constitutional AI. Diferentemente do conhecido aprendizado por reforço com feedback humano (RLHF), em que pessoas reais passam horas rotulando as respostas da rede neural, a Anthropic usa o próprio modelo para se autoeditar. O processo parece quase filosófico: o modelo recebe uma lista de princípios, da Declaração Universal dos Direitos Humanos da ONU às regras de proteção de dados da Apple, e deve criticar seus próprios rascunhos de acordo com essas normas.

Com isso, o Claude aprende não só a imitar preferências humanas, mas a seguir a lógica dos valores nele incorporados. Isso dispensa a empresa de manter um exército de moderadores mal pagos em países em desenvolvimento, o que por si só é uma jogada ética forte.

Por que o setor precisa disso? Primeiro, é escalável. O recurso humano é limitado, enquanto uma rede neural pode analisar seus erros indefinidamente. Segundo, torna o comportamento do modelo mais previsível e transparente. Se o Claude se recusa a responder a uma pergunta, não é por capricho do algoritmo, mas porque um item específico da Constituição o proíbe de violar a privacidade ou incentivar a violência. Isso cria uma base de confiança, essencial para o setor corporativo. As empresas não querem uma IA que possa, de repente, soltar algo politicamente incorreto ou perigoso. Querem uma ferramenta com limites de responsabilidade bem definidos.

No entanto, por trás das belas palavras sobre segurança há uma disputa dura por liderança. Em seus ensaios mais recentes, Dario Amodei sugere abertamente que estamos num ponto crítico do desenvolvimento da civilização, que ele chama de "adolescência da tecnologia". A Anthropic tenta tomar da OpenAI o papel de principal centro intelectual que define as regras do jogo. Se a OpenAI é uma startup agressiva que quer dar às pessoas uma ferramenta para tudo, a Anthropic é uma espécie de "adulto na sala", que insiste que poder sem controle não faz sentido e é perigoso.

É interessante que a Constituição seja revisada constantemente. É um documento vivo, que reflete os medos e as esperanças atuais da sociedade. Inclui itens sobre a inadmissibilidade da discriminação, a importância de fornecer informação objetiva e até sobre como a IA deve se comportar quando valores humanos entram em conflito. Lembra a tentativa de criar um cidadão digital ideal, que sempre segue a letra da lei, mas tem inteligência suficiente para entender o seu espírito. No fim, o sucesso da Anthropic dependerá de os usuários acreditarem nessa "moral artificial" ou a verem apenas como mais uma camada de censura corporativa.

O ponto central: a Constituição da Anthropic se tornará um padrão universal para todos os LLMs, ou veremos uma guerra de "morais corporativas", em que cada modelo terá suas próprias noções de bem e mal?