Encoder-Decoder
Codificador-decodificador
En una frase
Encoder-Decoder: una arquitectura en la que un encoder comprende la entrada y un decoder genera la salida a partir de esa comprensión.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
Es como un intérprete: primero escucha y entiende toda la frase en un idioma (encoder) y luego la produce en otro idioma (decoder). Fue el diseño original del Transformer, pensado para traducción.
Nivel técnico
Profundizando
El decoder usa cross-attention: sus queries atienden a las keys y values producidas por el encoder. Modelos como T5 y BART siguen este esquema. Es especialmente eficaz cuando entrada y salida son secuencias distintas (traducción, resumen, reconocimiento de voz como en Whisper).
¿Por qué importa?
Sigue siendo una arquitectura fuerte para tareas de transformación de secuencias.
¿Dónde se utiliza?
- Traducción automática
- Resumen
- Reconocimiento de voz