TPU
Unidad de procesamiento tensorial
En una frase
TPU: un chip diseñado por Google específicamente para acelerar cálculos de redes neuronales.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
Mientras las GPUs son chips gráficos adaptados a la IA, las TPUs se diseñaron desde el principio solo para IA. Google las usa en sus propios servicios y las ofrece en su nube.
Nivel técnico
Profundizando
Son ASICs basados en arreglos sistólicos para multiplicación de matrices, con memoria de alto ancho de banda y soporte para formatos como bfloat16. Se agrupan en pods con interconexión dedicada para entrenamiento a gran escala. Jouppi et al. (2017) describieron la primera generación, orientada a inferencia; las posteriores también entrenan.
¿Por qué importa?
Son una alternativa importante a las GPUs para entrenar y servir modelos a escala.
¿Dónde se utiliza?
- Entrenamiento de modelos grandes
- Inferencia en la nube
Antes de aprender esto
Si alguno te resulta nuevo, empieza por ahí.