Parameter-Efficient Fine-Tuning (PEFT)
Ajuste fino eficiente en parámetros
En una frase
PEFT: técnicas de fine-tuning que entrenan solo una pequeña fracción de parámetros adicionales en lugar de todo el modelo.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
Ajustar todos los parámetros de un modelo de miles de millones exige mucha memoria. PEFT congela el modelo original y entrena solo piezas pequeñas añadidas. Se obtiene casi la misma calidad con muchísimos menos recursos, y puedes tener varios «módulos» intercambiables sobre un mismo modelo.
Nivel técnico
Profundizando
Familias: adapters (pequeñas capas insertadas entre capas existentes, Houlsby et al., 2019), prefix/prompt tuning (vectores entrenables añadidos a la entrada) y métodos de bajo rango como LoRA. Reducen la memoria de gradientes y estados del optimizador, y los artefactos resultantes pesan megabytes en lugar de gigabytes.
¿Por qué importa?
Democratizó el fine-tuning de LLMs: ahora es posible en una sola GPU.
¿Dónde se utiliza?
- Fine-tuning con presupuesto limitado
- Múltiples especializaciones de un mismo modelo
Antes de aprender esto
Si alguno te resulta nuevo, empieza por ahí.