El autor de ChatCourt, un tribunal con IA, redujo el consumo de tokens en GigaChat de 1,7 a 0,55 millones por ejecución del caso
ChatCourt es un simulador de tribunal de arbitraje en el que redes neuronales interpretan al juez y al oponente, mientras que el estudiante actúa como demandante o demandado. Tras pasar de Claude Sonnet a GigaChat Ultra, el modelo entró en bucles y una ejecución del caso llegó a consumir hasta 1,7 millones de tokens. Un menú reducido de 1–3 acciones junto con la caché del proveedor bajó el consumo a 0,55 millones de tokens y el número de llamadas pasó de 100 a 62. Un modelo débil en llamadas a funciones conviene mantenerlo dentro de límites estrictos.
Procesado por IA desde Habr AI; editado por Hamidun News
ChatCourt es un simulador educativo de tribunal de arbitraje. El estudiante interpreta al demandante o al demandado, y las redes neuronales encarnan al juez, al oponente y al asistente. Los tokens son las unidades de texto por las que se paga al consultar un modelo.
El autor del proyecto construyó el simulador sobre Claude Sonnet, pero en producción se necesita el modelo ruso GigaChat Ultra, y al migrar todo se rompió. Una tramitación completa del caso con Sonnet consumía entre 1,2 y 1,7 millones de tokens de entrada; con GigaChat, tras las modificaciones, bastaron unos 0,55 millones, y el número de llamadas al modelo pasó de un pico de 100 a 62. Para quienes construyen agentes sobre un modelo poco orientado a esa tarea, es un conjunto de lecciones prácticas.
¿Qué es el simulador y por qué usa un modelo ruso?
La idea surgió de un experimento del MIT: siete equipos de estudiantes pasaron un mes construyendo un pequeño motor de reacción con ayuda de IA. Solo dos equipos llegaron a las pruebas, y el motor se encendió en uno de ellos. Las redes neuronales alucinaban y daban la razón, mientras que los equipos ganadores trataban las sugerencias con cautela y se apoyaban en sus propios conocimientos. El autor quiso colocar al estudiante en esa misma situación.
El estudiante elige un bando y atraviesa seis etapas: preparación, audiencia preliminar, vista oral, pruebas y mociones, alegatos finales y resolución. La resolución la dicta el juez de IA. No existen respuestas correctas: cada caso evoluciona de forma distinta, y el profesor evalúa el desarrollo del proceso, no el resultado.
El modelo debe ser ruso: las universidades tienen restricciones para los servicios de IA extranjeros, y los modelos chinos también entran en esa categoría. Técnicamente se trata de un monolito síncrono sobre FastAPI con SQLite, suficiente para un piloto de unos pocos estudiantes. El principio es el siguiente: el código decide qué está permitido, y el modelo decide qué hacer a continuación. El autor descartó el framework LangGraph. Habría tenido que programar por su cuenta el aislamiento de los roles, ya que el juez no debe ver la estrategia de las partes. Además, un checkpointer común almacenaría los textos de los estudiantes junto con todo lo demás.
Compatibilidad y bucles
Las pruebas se hicieron con Sonnet, y el autor dio por hecho que el formato de llamada a funciones era el mismo en su caso y en GigaChat. Resultó que Sonnet invoca varias funciones en un solo paso, mientras que GigaChat solo invoca una. El motor resultó casi incompatible con el nuevo modelo y hubo que reescribirlo.
Después, el modelo empezó a repetir siempre la misma frase. Cuando el motor rechaza una respuesta del modelo, reenvía el mismo prompt con una marca de error. A veces el prompt sale idéntico y, con una temperatura casi nula, el modelo elige cada vez la palabra más probable. GigaChat no acepta la temperatura cero. Las temperaturas se ajustaron a mano: 0,2 para el juez, 0,3 para la IA de la parte y las sugerencias, y 0,01 para las comprobaciones de servicio. No conviene subirlas: el modelo deja de seguir las instrucciones y alucina.
Contra los bucles infinitos protegió el modo de «pausa»: el motor detecta las repeticiones y detiene el proceso. La causa en sí se eliminó corrigiendo el prompt. Se añadió una explicación de qué estaba mal y qué hacer en su lugar, además de 45 códigos de rechazo con un ejemplo de corrección para cada uno. También se incorporó un registro del curso del proceso con las frases ya rechazadas. Si una respuesta se corta por longitud, la repetición va acompañada de la indicación «escribe más breve» y un límite de 4000 tokens.
Pero no bastó: en una ejecución, el juez hizo siete veces seguidas la misma pregunta al demandado, aunque la palabra correspondía al estudiante. Entonces se introdujo el modo «guiado». El motor elige por sí mismo el tipo de paso y propone al modelo entre una y tres acciones. Una acción rechazada por repetición se retira del menú hasta el final del turno. Si la palabra es del estudiante, el juez solo puede preguntarle a él.
Memoria, caché y economía final
El modelo no tiene memoria propia. Antes de cada llamada, el motor reconstruye desde cero para cada rol una «mesa de trabajo» formada por siete secciones: posición del rol, inventario del caso, actas de las audiencias anteriores, hasta 15 notas del rol, una sección de trabajo, las últimas 10–15 réplicas y el registro del curso. Después de la llamada no se conserva nada.
La caché del lado del proveedor ahorró una parte considerable del presupuesto. A cada llamada se le añadió el encabezado X-Session-ID, un hash del par «intento y rol». Sin él, la caché apenas funcionaba. Las secciones invariables se colocaron al inicio de la solicitud y las que cambian, al final. En una prueba con 25 981 tokens de entrada, 25 920 se tomaron de la caché. La proporción de caché subió en algunos casos de alrededor del 8% a alrededor del 44%, y los tokens en caché se cobran a una tarifa menor.
Resultado de una ejecución completa: unos 0,55 millones de tokens, de los que 0,39 millones se facturan y 0,17 millones proceden de la caché (30% de media). La ejecución dura 7,5 minutos sin pausas. La proporción de respuestas vacías en las cuatro versiones bajó del 30% al 21%, luego al 12,5% y finalmente al 0%.
Lo que el simulador todavía no sabe hacer
El juez y el oponente se apoyan en los materiales del caso, en el guion y en los conocimientos propios del modelo. No cuentan con una capa RAG con jurisprudencia y legislación actualizada, aunque los análogos extranjeros sí la tienen. El riesgo de errores del juez de IA en cuanto al fondo sigue ahí. Actualmente se realiza una prueba beta con estudiantes y todavía no hay resultados.
Conclusión práctica: no dé libertad de elección a un modelo débil en llamadas a funciones; limite el menú de acciones y devuelva los errores con un ejemplo concreto de corrección. Coloque las partes invariables del prompt al principio para que la caché funcione, y detecte las repeticiones en el lado del código.
- 21 nov 2026Matemático de Anthropic afirma que Claude le ayudó a demostrar la hipótesis de Riemann en seis semanas
- 21 nov 2026OpenAI abre ChatGPT Spaces a los suscriptores de Plus: documentos compartidos con IA
- 21 nov 2026Los gigantes tecnológicos chinos duplicaron su gasto en IA hasta 139.000 millones de dólares, mientras sus laboratorios recuperan menos del 8 %
- 21 nov 2026El navegador Ego lite asigna a cada agente de IA su propio espacio de trabajo (Space)
Preguntas frecuentes sobre la noticia
¿Qué es el simulador y por qué usa un modelo ruso?
La idea surgió de un experimento del MIT: siete equipos de estudiantes pasaron un mes construyendo un pequeño motor de reacción con ayuda de IA. Solo dos equipos llegaron a las pruebas, y el motor se encendió en uno de ellos. Las redes neuronales alucinaban y daban la razón, mientras que los equipos ganadores trataban las sugerencias con cautela y se apoyaban en sus propios conocimientos. El autor quiso colocar al estudiante en esa misma situación.
¿Qué se sabe sobre Compatibilidad y bucles?
Las pruebas se hicieron con Sonnet, y el autor dio por hecho que el formato de llamada a funciones era el mismo en su caso y en GigaChat. Resultó que Sonnet invoca varias funciones en un solo paso, mientras que GigaChat solo invoca una. El motor resultó casi incompatible con el nuevo modelo y hubo que reescribirlo. Después, el modelo empezó a repetir siempre la misma frase. Cuando el motor rechaza una respuesta del modelo, reenvía el mismo prompt con una marca de error.
¿Qué se sabe sobre Memoria, caché y economía final?
El modelo no tiene memoria propia. Antes de cada llamada, el motor reconstruye desde cero para cada rol una «mesa de trabajo» formada por siete secciones: posición del rol, inventario del caso, actas de las audiencias anteriores, hasta 15 notas del rol, una sección de trabajo, las últimas 10–15 réplicas y el registro del curso. Después de la llamada no se conserva nada. La caché del lado del proveedor ahorró una parte considerable del presupuesto.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.