En vivo 18.11 · Cohorte 318 nov, 19:00 MSK — taller práctico gratuito de agentes IA · Cohorte 3 en vivo inicia 23.11Taller 18 nov →Cohorte 3 (23.11)
ModelosGlosario

Modelo Codificador-Decodificador (Encoder-Decoder)

Una arquitectura Codificador-Decodificador es un diseño de red neuronal en el que un codificador mapea una entrada en una representación latente y un decodificador separado genera la secuencia de salida de esa representación, haciendo que sea bien adecuada para tareas como traducción y resumen.

Modelo Codificador-Decodificador (Encoder-Decoder)
Modelo Codificador-Decodificador (Encoder-Decoder) · Modelos · Hamidun News

Un modelo codificador-decodificador es un diseño de red neuronal en el que un codificador mapea una entrada en una representación latente y un decodificador separado genera la secuencia de salida a partir de esa representación, lo que lo hace adecuado para tareas como traducción y resumen.

El transformer (Vaswani et al., 2017) reformuló la estructura codificador-decodificador usando self-attention y cross-attention. El stack del codificador procesa la secuencia de entrada completa en paralelo, produciendo representaciones contextualizadas; el stack del decodificador genera tokens de salida de manera autorregresiva, usando self-attention causal sobre sus propias salidas anteriores y cross-attention sobre la salida del codificador. Este diseño escala eficientemente y sustenta modelos incluyendo T5 (Google, 2019), BART (Meta, 2019), y mT5 para configuraciones multilingües.

La arquitectura es particularmente bien adecuada para tareas donde entrada y salida son estructuralmente diferentes: traducción automática (idiomas fuente y destino), resumen abstractivo (artículo a resumen), reconocimiento de voz (Whisper de OpenAI utiliza un codificador CNN para audio y un decodificador transformer para texto), y descripción de imágenes (codificador visual, decodificador de texto). El codificador maneja la comprensión; el decodificador maneja la generación, y esta separación de responsabilidades es beneficiosa cuando los dos procesos requieren diferentes patrones de attention.

A partir de 2026, los modelos codificador-decodificador siguen siendo el estándar para tareas de predicción estructurada. Los modelos estilo T5 y sus sucesores multilingües se despliegan en Google Search, traducción de documentos, y pipelines de resumen. Sin embargo, para generación de lenguaje a escala de extremo abierto, los modelos solo-decodificador han tomado ampliamente el control porque son arquitecturalmente más simples de entrenar y escalar. Las técnicas de fine-tuning eficiente en parámetros frecuentemente acoplan un codificador congelado con una pequeña cabeza decodificadora para adaptación de bajo recursos.

Ejemplo

“El backend neural de Google Translate utiliza un transformer codificador-decodificador que codifica una oración en español en representaciones contextualizadas y luego decodifica esas representaciones token a token al inglés.
ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent