Recusa
Uma recusa é a decisão deliberada de um modelo de IA de declinar a solicitação de um usuário, tipicamente porque o treinamento de segurança do sistema determinou que a solicitação poderia levar a saídas prejudiciais, ilegais ou que violem políticas.
Recusa é o comportamento pelo qual um modelo de linguagem rejeita cumprir uma solicitação e, na maioria dos casos, fornece uma explicação sobre o motivo pelo qual não pode cumpri-la. Recusas são um mecanismo primário através do qual o alinhamento de segurança se manifesta no comportamento observável do modelo — a saída visível de políticas internalizadas aprendidas durante o treinamento, em vez de um filtro externo aplicado após a geração.
Durante o treinamento, técnicas como aprendizagem por reforço a partir de feedback humano (RLHF) e otimização de preferência direta (DPO) ensinam ao modelo quais categorias de solicitações recusar. Quando um usuário envia uma consulta, o modelo a avalia contra políticas internalizadas e ou cumpre, recusa, ou cumpre com modificações. Esta decisão não é uma busca codificada, mas um comportamento aprendido emergente codificado nos pesos do modelo. Recusas podem ser disparadas por conteúdo de solicitação explícito, intenção implícita inferida do contexto conversacional, ou padrões de superfície que se assemelham a tipos de solicitações prejudiciais conhecidas mesmo quando a solicitação real é benigna.
Recusas protegem contra o uso indevido, mas estão sujeitas a erros de calibração em ambas as direções. Recusa excessiva — declinar solicitações legítimas porque se assemelham superficialmente a prejudiciais — erode a confiança do usuário e limitam a utilidade prática. Recusa insuficiente — permitir solicitações genuinamente prejudiciais — cria falhas de segurança. Alcançar calibração correta entre populações de usuários diversas, idiomas e contextos de implantação é um desafio central no alinhamento de IA, e má calibração em qualquer direção carrega custos de reputação e comerciais para os desenvolvedores.
A partir de 2026, reduzir as recusas falsas positivas mantendo a proteção contra dano real tornou-se um diferencial competitivo entre provedores de IA. Anthropic, OpenAI e Google publicaram cada um documentação de comportamento do modelo e avaliações rastreando taxas de recusa por categoria de solicitação. Modelos de código aberto de Meta e Mistral geralmente apresentam menos recusas do que sistemas comerciais de fronteira, criando um tradeoff significativo entre garantias de segurança e autonomia do usuário que diferentes contextos de implantação resolvem de maneiras diferentes.