Compute
Cómputo
En una frase
Compute: la cantidad de procesamiento que se usa para entrenar o ejecutar un modelo, normalmente medida en FLOPs o en horas de GPU.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
Es el «combustible» de la IA. Entrenar un modelo de frontera requiere miles de chips funcionando durante meses. Junto con los datos y los algoritmos, el cómputo es uno de los tres ingredientes que determinan qué tan capaces son los modelos.
Nivel técnico
Profundizando
Se mide en FLOPs totales (entrenamiento) o en GPU-horas. Para un Transformer, el cómputo de entrenamiento se aproxima como C ≈ 6·N·D (N parámetros, D tokens). El cómputo usado en los modelos más grandes ha crecido muy rápido en la última década. También se distingue el cómputo de entrenamiento del de inferencia, cuya importancia crece con los modelos de razonamiento.
¿Por qué importa?
Es un recurso escaso y caro que condiciona quién puede entrenar modelos de frontera, y un eje clave de la política de IA.
¿Dónde se utiliza?
- Planeación de entrenamientos
- Estimación de costos
- Políticas públicas de IA
Antes de aprender esto
Si alguno te resulta nuevo, empieza por ahí.