Rechazo
Un rechazo es la decisión deliberada de un modelo de IA de declinar una solicitud del usuario, típicamente porque el entrenamiento de seguridad del sistema determinó que la solicitud podría conducir a salidas perjudiciales, ilegales o que violen políticas.
Rechazo es el comportamiento mediante el cual un modelo de lenguaje declina cumplir una solicitud y, en la mayoría de los casos, proporciona una explicación de por qué no puede hacerlo. Los rechazos son un mecanismo primario a través del cual la alineación de seguridad se manifiesta en el comportamiento observable del modelo — la salida visible de políticas internalizadas aprendidas durante el entrenamiento en lugar de un filtro externo aplicado después de la generación.
Durante el entrenamiento, técnicas como aprendizaje por refuerzo a partir de retroalimentación humana (RLHF) y optimización de preferencias directas (DPO) enseñan al modelo qué categorías de solicitudes rechazar. Cuando un usuario envía una consulta, el modelo la evalúa contra políticas internalizadas y, según corresponda, cumple, rechaza o cumple con modificaciones. Esta decisión no es una búsqueda codificada sino un comportamiento aprendido emergente codificado en los pesos del modelo. Los rechazos pueden ser activados por contenido de solicitud explícito, intención implícita inferida del contexto conversacional, o patrones superficiales que se asemejan a tipos de solicitudes perjudiciales conocidas incluso cuando la solicitud real es inofensiva.
Los rechazos protegen contra el mal uso pero están sujetos a errores de calibración en ambas direcciones. Rechazo excesivo — declinar solicitudes legítimas porque se asemejan superficialmente a las dañinas — erosiona la confianza del usuario y limita la utilidad práctica. Rechazo insuficiente — permitir solicitudes genuinamente dañinas — crea fallas de seguridad. Lograr una calibración correcta entre poblaciones de usuarios diversas, idiomas y contextos de implementación es un desafío central en la alineación de IA, y la mala calibración en cualquier dirección conlleva costos reputacionales y comerciales para los desarrolladores.
A partir de 2026, reducir los rechazos falsos positivos mientras se mantiene la protección contra el daño real se ha convertido en un diferenciador competitivo entre proveedores de IA. Anthropic, OpenAI y Google han publicado documentación de comportamiento del modelo y evaluaciones que rastrean las tasas de rechazo por categoría de solicitud. Los modelos de código abierto de Meta y Mistral generalmente exhiben menos rechazos que los sistemas comerciales de frontera, creando una compensación significativa entre garantías de seguridad y autonomía del usuario que diferentes contextos de implementación resuelven de diferentes maneras.