Paper #09 · Eficiencia e ingeniería
LoRA: Low-Rank Adaptation of Large Language Models
LoRA: adaptación de bajo rango de modelos de lenguaje grandes
- Autores:
- Hu, Shen, Wallis, Allen-Zhu, Li, Wang, Wang y Chen
- Institución:
- Microsoft
- Año:
- 2021 · arXiv:2106.09685
En pocas palabras
En lugar de reentrenar todos los pesos, LoRA congela el modelo y aprende, en cada capa, una pequeña corrección expresada como el producto de dos matrices delgadas. Se entrena hasta 10 000 veces menos parámetros con una calidad similar al ajuste fino completo.
Por qué importa hoy: Base del ajuste fino eficiente en parámetros: adaptar modelos gigantes entrenando una fracción minúscula de parámetros.
El problema
Ajustar un modelo de 175 mil millones de parámetros para cada tarea implica guardar y servir una copia completa por tarea, algo impagable. Los métodos ligeros existentes añadían latencia en inferencia (adaptadores) o reducían el contexto útil (prefix tuning).
Ideas clave
El cambio es de bajo rango
La hipótesis: la diferencia entre los pesos originales y los ajustados tiene una estructura simple. Una matriz grande de actualización puede aproximarse con dos matrices pequeñas, B·A, de rango r muy bajo (por ejemplo, 4 u 8).
Pesos congelados
Solo se entrenan A y B. Los pesos originales no cambian, así que no hace falta guardar sus gradientes ni estados del optimizador, lo que reduce drásticamente la memoria.
Sin latencia extra
Al terminar, la corrección B·A se suma a los pesos originales. El modelo resultante tiene exactamente el mismo tamaño y velocidad que el original.
Intercambiable
Un solo modelo base puede servir muchas tareas cargando distintos «parches» LoRA de unos pocos megabytes.
Resultados
- En GPT-3 175B: 10 000 veces menos parámetros entrenables y 3 veces menos memoria de GPU que el ajuste fino completo.
- Calidad igual o mejor que el ajuste completo en RoBERTa, DeBERTa, GPT-2 y GPT-3.
Legado
LoRA y variantes como QLoRA son el estándar para personalizar modelos abiertos en una sola GPU, y también el formato con el que la comunidad comparte estilos para modelos de imagen como Stable Diffusion.
Conceptos para leerlo
Explicación original en español elaborada por AI Atlas; no es una traducción del paper. El texto completo pertenece a sus autores.