Loss Function
Función de pérdida
En una frase
Loss Function: una fórmula que mide qué tan equivocadas están las predicciones del modelo; el entrenamiento busca hacerla lo más pequeña posible.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
Es la calificación inversa del modelo: cuanto más alta, peor lo está haciendo. Si el modelo dice «90% gato» y la foto es de un perro, la pérdida es alta. Si dice «95% perro», la pérdida es baja.
Todo el entrenamiento consiste en mover los parámetros en la dirección que hace bajar este número.
Nivel técnico
Profundizando
Para regresión se usa el error cuadrático medio: MSE = (1/n) Σ (yᵢ − ŷᵢ)². Para clasificación y modelos de lenguaje, la Cross-Entropy. La elección de la pérdida define qué considera «error» el modelo y, por tanto, qué optimiza. Suele añadirse un término de regularización para penalizar la complejidad.
Ver explicación matemática
Error cuadrático medio, la pérdida clásica para regresión.
Qué significa cada símbolo
- n
- Número de ejemplos
- yᵢ
- Valor real del ejemplo i
- ŷᵢ
- Predicción del modelo para el ejemplo i
- (yᵢ − ŷᵢ)²
- Error al cuadrado: penaliza más los errores grandes
¿Por qué importa?
Es la brújula del entrenamiento: el modelo mejora exactamente en lo que la pérdida mide, ni más ni menos.
¿Dónde se utiliza?
- Entrenamiento de cualquier modelo
- Comparar configuraciones
Antes de aprender esto
Si alguno te resulta nuevo, empieza por ahí.
Continúa aprendiendo
- Gradient DescentUn algoritmo de optimización que ajusta los parámetros de un modelo dando pequeños pasos en la dirección que más reduce el error.
- Cross-EntropyLa función de pérdida estándar para clasificación y modelos de lenguaje: penaliza al modelo cuando asigna baja probabilidad a la respuesta correcta.
Conceptos relacionados
Aparece en la ruta Cómo aprende una IA.