Router
Enrutador
En una frase
Router: el componente que decide a qué expertos (en MoE) o a qué modelo (en un sistema) se envía cada entrada.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
Es el recepcionista que dirige el tráfico. En un modelo MoE, decide qué expertos procesan cada token. En una aplicación, un router puede decidir si una pregunta simple la responde un modelo pequeño y barato o una compleja la resuelve uno grande.
Nivel técnico
Profundizando
En MoE, el router es una capa lineal que produce logits sobre los expertos, seguida de softmax y selección top-k. Se añaden pérdidas de balanceo para evitar que colapse enviando todo a pocos expertos, y límites de capacidad por experto. A nivel de sistema, el enrutamiento de modelos usa clasificadores o reglas para optimizar costo y calidad.
¿Por qué importa?
Su calidad determina la eficiencia de un MoE y el costo de sistemas con varios modelos.
¿Dónde se utiliza?
- Modelos MoE
- Enrutamiento entre modelos
- Optimización de costos