AWS y Artificial Genius muestran cómo reducir las alucinaciones de los LLM en finanzas y salud

AWS, junto con su socio Artificial Genius, ha mostrado cómo adaptar los grandes modelos de lenguaje a tareas en las que un error es inadmisible. El enfoque se basa en Amazon Nova y SageMaker, pero la idea clave no es un nuevo tamaño de modelo, sino aprovechar su comprensión del lenguaje sin dejar que genere libremente la respuesta.

Por qué es un problema

Para los servicios financieros, la sanidad, los seguros y los procesos jurídicos, los LLM convencionales siguen pareciendo arriesgados. Escriben, resumen y explican bien, pero por naturaleza siguen siendo sistemas probabilísticos: el modelo predice el siguiente token en lugar de extraer un hecho garantizado como correcto. De ahí surgen las alucinaciones: respuestas que suenan convincentes pero no están respaldadas por los datos de origen. Donde importan la auditoría, la reproducibilidad y la responsabilidad, este modo de funcionamiento encaja mal con producción.

Los autores del artículo proponen ver la evolución de la IA en tres pasos. La primera ola se basó en lógica simbólica y reglas rígidas: eran sistemas deterministas, pero demasiado inflexibles. La segunda ola, en la que se incluyen los transformadores actuales, dio un salto enorme en fluidez y comprensión del lenguaje, pero trajo consigo imprevisibilidad. Artificial Genius llama a su enfoque la tercera generación: el modelo sigue entendiendo el lenguaje natural como un LLM moderno, pero la respuesta final pasa por una lógica determinista y no debe salirse de lo que realmente hay en el contexto de entrada.

Cómo funciona el esquema

La tesis central de AWS y Artificial Genius es esta: un modelo generativo puede usarse de forma estrictamente no generativa. Es decir, no "completa" la respuesta según la probabilidad del siguiente token, sino que comprueba si puede extraerla del documento y, si no puede, se niega a responder. Este modo resulta especialmente útil para preguntas sobre fechas, importes, nombres, fragmentos de un informe o la confirmación de un hecho concreto.

El artículo lo formula de manera muy directa:

«Si la pregunta no puede responderse a partir del documento, el modelo

debe responder: "Unknown"».

• como modelo base eligieron Amazon Nova Lite, porque se adapta mejor a respuestas cortas y precisas, sin charla innecesaria;
• el ajuste fino se hace en SageMaker mediante supervised fine-tuning, para que el modelo siga una única regla del sistema: no inventar nada;
• para el entrenamiento se usa un conjunto sintético de preguntas y respuestas con consultas que se pueden responder y otras deliberadamente sin respuesta;
• en lugar del RAG clásico, que sigue siendo generativo, se apuesta por un vínculo más estrecho entre el texto del documento y la pregunta concreta;
• por encima se empaqueta todo en una plataforma de agentes, donde una consulta libre puede traducirse a una especificación más estricta, y la única verificación manual queda en la etapa de esa traducción.

Un detalle importante: los autores contraponen expresamente su método al consejo habitual de "poner la temperature a cero". Según ellos, eso no resuelve el problema de fondo, porque el modelo sigue generando. En su variante cambia no solo el grado de aleatoriedad, sino la lógica misma de uso del modelo: la comprensión probabilística se mantiene en la entrada, y en la salida el sistema tiende a un modo binario: responder solo con lo que confirma el texto o decir honestamente que no hay respuesta.

Qué mostraron las pruebas

Técnicamente, el esquema resulta bastante terrenal, y por eso es interesante. Los datos de entrenamiento se almacenan en Amazon S3, el ajuste fino del modelo Nova base se ejecuta en SageMaker Training Jobs y después la versión personalizada se importa a Amazon Bedrock y se ofrece a la aplicación mediante el circuito de inferencia estándar. Para los equipos corporativos esto importa no solo por comodidad, sino por la trazabilidad transparente de los datos: es más fácil saber con qué se entrenó el modelo, dónde se modificó y cómo se desplegó después en producción.

El equipo también reveló varias conclusiones de ingeniería. Para el fine-tuning usaron LoRA, a fin de no romper la comprensión lingüística básica del modelo. En experimentos anteriores con otro modelo tuvieron incluso que desactivar a la fuerza el chain-of-thought mediante el token de servicio `</think>`, porque el razonamiento extenso estorbaba a las respuestas breves y deterministas. Para la versión con Nova Lite, los autores combinaron un LoRA dropout del 50 %, un early stopping manual y la ampliación del conjunto de datos sintético a 30 000 ejemplos. Según sus datos, esto redujo la tasa de alucinaciones desde porcentajes y fracciones de porcentaje en las primeras configuraciones hasta el 0,03 % en la mejor variante.

Qué significa

La historia importa no solo a los usuarios de AWS. Muestra un cambio más amplio: el mercado empieza a buscar no simplemente los LLM más "inteligentes", sino modelos con límites de comportamiento definidos por ingeniería. Para bancos, aseguradoras, clínicas y legal tech, es una señal de que la adopción de la IA se construirá cada vez más en torno a la verificabilidad, la negativa a responder y los flujos de trabajo controlados, y no en torno a una generación vistosa a cualquier precio.