Overfitting
Sobreajuste
En una frase
Overfitting: cuando un modelo memoriza los datos de entrenamiento, incluido su ruido, y falla con datos nuevos.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
Es como un estudiante que memoriza las respuestas de los exámenes anteriores sin entender el tema. Saca 10 en la práctica, pero reprueba el examen real con preguntas nuevas.
Se detecta cuando el modelo es excelente con sus datos de entrenamiento pero mediocre con datos de validación.
Cómo funciona
Underfitting, buen ajuste y overfitting
Nivel técnico
Profundizando
Ocurre cuando la capacidad del modelo es alta en relación con la cantidad y variedad de datos. Síntoma: la pérdida de entrenamiento sigue bajando mientras la de validación sube. Remedios: más datos, regularización (weight decay, dropout), data augmentation, early stopping o un modelo más simple.
Curiosamente, en redes muy grandes se observa el fenómeno de double descent: al seguir aumentando el tamaño, el error de prueba puede volver a bajar.
¿Por qué importa?
Un modelo sobreajustado da una falsa sensación de éxito durante el desarrollo y falla en producción.
¿Dónde se utiliza?
- Diagnóstico de entrenamiento
- Selección de modelos
Antes de aprender esto
Continúa aprendiendo
- UnderfittingCuando un modelo es demasiado simple o está poco entrenado y no logra capturar los patrones de los datos.
- GeneralizationLa capacidad de un modelo de funcionar bien con datos que no vio durante el entrenamiento.
- RegularizationTécnicas que limitan la complejidad de un modelo para evitar que memorice los datos y mejorar su generalización.
Conceptos relacionados
Aparece en la ruta Cómo aprende una IA.