Fine-Tuning
Ajuste fino
En una frase
Fine-Tuning: continuar el entrenamiento de un modelo ya entrenado con datos específicos para especializarlo en una tarea, estilo o dominio.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
Un modelo preentrenado es como un recién egresado con buena educación general. El fine-tuning es su capacitación en el puesto: con relativamente pocos ejemplos aprende el vocabulario, el formato y la forma de trabajar de tu empresa.
Se modifica el modelo mismo (sus pesos), a diferencia del prompting o Retrieval-Augmented Generation, que solo cambian lo que el modelo ve.
En 30 segundos
- 1Partes de un modelo preentrenado.
- 2Reúnes ejemplos de la tarea (cientos a miles).
- 3Entrenas unas pocas épocas con learning rate baja.
- 4Evalúas contra el modelo original.
- 5Despliegas el modelo especializado.
Nivel técnico
Profundizando
Puede ser completo (se actualizan todos los parámetros) o eficiente en parámetros (PEFT, como LoRA). En LLMs, las formas principales son SFT con pares instrucción–respuesta y el ajuste por preferencias (RLHF, Direct Preference Optimization).
Riesgos: olvido catastrófico (perder capacidades generales), Overfitting con datasets pequeños y degradación de comportamientos de seguridad. Se recomienda probar primero con prompting y RAG, y usar fine-tuning cuando se necesita consistencia de formato, menor latencia o costo (un modelo pequeño ajustado puede igualar a uno grande en una tarea concreta).
Comparación
Prompting vs. Fine-Tuning
| Aspecto | Prompting / RAG | Fine-Tuning |
|---|---|---|
| Cambia los pesos | No | Sí |
| Datos necesarios | Ninguno o pocos ejemplos | Cientos a miles de ejemplos de calidad |
| Velocidad de iteración | Minutos | Horas o días |
| Mejor para | Conocimiento y tareas generales | Formato, estilo, tareas estrechas, modelos más pequeños y baratos |
Error común
¿Por qué importa?
Es la forma de convertir un modelo genérico en uno especializado, más barato o con un comportamiento muy consistente.
¿Dónde se utiliza?
- Formatos de salida estrictos
- Tono de marca
- Clasificación especializada
- Modelos pequeños y eficientes
- Dominios técnicos
Antes de aprender esto
Continúa aprendiendo
- Supervised Fine-TuningAjustar un modelo con ejemplos de entradas y las respuestas ideales que debería producir.
- LoRAUna técnica de fine-tuning que congela los pesos originales y entrena pequeñas matrices adicionales de bajo rango que modifican su comportamiento.
- RLHFUna técnica para ajustar un modelo usando preferencias humanas: personas comparan respuestas y el modelo aprende a producir las preferidas.