Training
Entrenamiento
En una frase
Training: el proceso en el que un modelo ajusta sus parámetros a partir de datos para mejorar en una tarea.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
Entrenar es enseñarle a un modelo. Se le muestran ejemplos, hace predicciones, se mide qué tan equivocado estuvo y se corrigen un poquito sus parámetros. Esto se repite millones de veces.
Al principio el modelo responde casi al azar; al final ha ajustado sus números internos para cometer muy pocos errores.
En 30 segundos
- 1El modelo recibe un lote de ejemplos.
- 2Hace una predicción con sus parámetros actuales.
- 3Una función de pérdida mide el error.
- 4Backpropagation calcula cómo corregir cada parámetro.
- 5Los parámetros se ajustan un poco y se repite.
Nivel técnico
Profundizando
El entrenamiento es un problema de optimización: encontrar parámetros θ que minimicen la pérdida promedio sobre el Dataset. El ciclo típico es: forward pass → cálculo de la pérdida → Backpropagation para obtener el gradiente → actualización con Gradient Descent (o variantes como Adam).
Los datos se procesan en batches durante varias épocas. En LLMs el entrenamiento se divide en fases: preentrenamiento masivo y luego post-entrenamiento (SFT, RLHF).
Comparación
Training vs. Inference
| Aspecto | Training | Inference |
|---|---|---|
| Qué ocurre | El modelo aprende | El modelo usa lo aprendido |
| Pesos | Se modifican | Normalmente no cambian |
| Costo | Muy costoso (semanas, miles de GPUs en LLMs) | Mucho menor por consulta |
| Cuándo | Antes de publicar el modelo | Cada vez que alguien lo usa |
¿Por qué importa?
Es la fase donde se decide lo que el modelo sabe y cómo se comporta, y la que concentra el mayor costo de cómputo.
¿Dónde se utiliza?
- Crear modelos desde cero
- Adaptar modelos (fine-tuning)
- Actualizar modelos con datos nuevos
Antes de aprender esto
Continúa aprendiendo
- InferenceEl momento en que un modelo ya entrenado se usa para producir una respuesta a partir de una entrada nueva.
- Loss FunctionUna fórmula que mide qué tan equivocadas están las predicciones del modelo; el entrenamiento busca hacerla lo más pequeña posible.
- Gradient DescentUn algoritmo de optimización que ajusta los parámetros de un modelo dando pequeños pasos en la dirección que más reduce el error.