IA Constitucional
IA Constitucional é um método de treinamento desenvolvido pela Anthropic no qual um modelo de IA critica e revisa suas próprias saídas de acordo com um conjunto de princípios escritos, reduzindo a dependência de anotação humana em larga escala para filtrar comportamento prejudicial.
IA Constitucional (CAI) é uma técnica de alinhamento e treinamento de segurança introduzida pela Anthropic em um artigo de dezembro de 2022. Em vez de depender inteiramente de avaliadores humanos para identificar saídas prejudiciais, CAI incorpora uma lista de princípios — a constituição — diretamente no loop de treinamento. Esses princípios podem incluir diretrizes como evitar conteúdo que auxilie atividades ilegais ou instruções derivadas de documentos como a Declaração Universal dos Direitos Humanos da ONU.
O treinamento ocorre em dois estágios. No estágio de aprendizagem supervisionada, o modelo gera respostas a prompts potencialmente prejudiciais, depois usa os princípios constitucionais para criticar cada resposta e produzir uma versão revisada. Essas saídas auto-revisadas se tornam um novo conjunto de dados de fine-tuning. No segundo estágio, aprendizagem por reforço a partir de feedback de IA (RLAIF) substitui grande parte da aprendizagem por reforço tradicional a partir de feedback humano (RLHF): um modelo separado avalia respostas candidatas contra a mesma constituição e atribui pontuações de preferência, gerando um sinal de treinamento sem exigir um avaliador humano para cada comparação.
A abordagem importa por duas razões. Primeiro, reduz o custo e o gargalo de dimensionamento de anotação humana para segurança: gerar milhões de comparações de preferência com avaliadores humanos é caro e lento, enquanto um crítico baseado em IA pode operar em throughput muito maior. Segundo, torna os padrões normativos que guiam o modelo explícitos e auditáveis — qualquer pessoa pode ler a constituição e raciocinar sobre quais comportamentos o sistema é treinado para promover ou evitar, o que é mais difícil com pipelines RLHF opacos.
A partir de 2026, IA Constitucional sustenta a família de modelos Claude da Anthropic. Pesquisas subsequentes exploraram tornar constituições configuráveis pelo operador, permitindo que empresas definam princípios customizados para suas implantações, e combinando CAI com sondas de interpretabilidade e protocolos de debate para capturar comportamentos que a auto-crítica sozinha pode não detectar.