QLoRA
En una frase
QLoRA: una variante de LoRA que carga el modelo base cuantizado a 4 bits para poder hacer fine-tuning con mucha menos memoria.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
QLoRA combina dos ideas: comprimir el modelo original (cuantización a 4 bits) y entrenar solo adaptadores LoRA. El resultado: puedes ajustar modelos grandes en una sola GPU que antes habría sido insuficiente.
Nivel técnico
Profundizando
Dettmers et al. (2023) introdujeron el tipo de dato NF4 (NormalFloat de 4 bits), la doble cuantización de las constantes de escala y optimizadores paginados para manejar picos de memoria. Los gradientes fluyen a través del modelo cuantizado congelado hacia los adaptadores LoRA en precisión mayor. Reportaron calidad comparable a fine-tuning en 16 bits en sus evaluaciones.
¿Por qué importa?
Hizo accesible el fine-tuning de modelos grandes a investigadores y equipos pequeños.
¿Dónde se utiliza?
- Fine-tuning en hardware de consumo
- Experimentación rápida
Antes de aprender esto
Si alguno te resulta nuevo, empieza por ahí.