Por qué una red neuronal olvida la conversación: la ventana de contexto de los LLM

Un LLM no guarda memoria entre solicitudes: con cada nuevo mensaje, el modelo vuelve a leer todo el diálogo desde cero. Este «campo de visión» se llama ventana de contexto y solo admite un número limitado de tokens. Cada token es una parte de tu conversación. El modelo simplemente no ve nada de lo que queda fuera de la ventana. Por eso, en los diálogos largos empieza a «olvidar» detalles del principio de la conversación.

Procesado por IA desde Habr AI; editado por Hamidun News
Por qué una red neuronal olvida la conversación: la ventana de contexto de los LLM
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo

La ventana de contexto de una red neuronal es una característica de su arquitectura. Explica por qué la IA no funciona como una persona con memoria, sino como un experto que relee toda la conversación desde cero cada vez antes de formular una respuesta.

¿Por qué la IA olvida partes del diálogo?

La IA no olvida en el sentido habitual: no tiene memoria de trabajo ni memoria a largo plazo. El modelo recibe cada vez el diálogo completo, pero la cantidad de información que puede procesar a la vez está limitada por la ventana de contexto. Cuando el diálogo se vuelve demasiado largo, los mensajes antiguos quedan fuera de sus límites y el modelo deja de verlos.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…