Temperature
Temperatura
En una frase
Temperature: un parámetro que controla qué tan aleatorias o predecibles son las respuestas de un modelo generativo.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
Con temperatura baja, el modelo elige casi siempre las palabras más probables: respuestas consistentes y conservadoras. Con temperatura alta, se anima a elegir opciones menos probables: respuestas más variadas y creativas, pero también más propensas a errores.
Para extraer datos o escribir código conviene una temperatura baja; para lluvia de ideas, una más alta.
Nivel técnico
Profundizando
La temperatura T divide los logits antes de aplicar Softmax. Con T → 0 la distribución se concentra en el token más probable (equivalente a greedy decoding); con T = 1 se usa la distribución original; con T > 1 se aplana. Suele combinarse con Top-P o top-k para truncar la cola de tokens improbables.
Ver explicación matemática
Qué significa cada símbolo
- zᵢ
- Logit (puntuación sin normalizar) del token i
- T
- Temperatura: menor a 1 agudiza, mayor a 1 aplana
- pᵢ
- Probabilidad final de elegir el token i
¿Por qué importa?
Es una de las perillas más simples y efectivas para ajustar el comportamiento de un modelo a cada caso de uso.
¿Dónde se utiliza?
- Extracción de datos (baja)
- Escritura creativa (alta)
- Generar variantes
Antes de aprender esto
Continúa aprendiendo
Conceptos relacionados
Aparece en la ruta Qué es realmente un LLM.