Matriz

Una hoja de cálculo es una matriz. En IA, los pesos de una capa de red neuronal se guardan en matrices, y la operación más común de toda la IA es multiplicar matrices: una GPU hace billones de estas multiplicaciones por segundo.

Una matriz A ∈ ℝᵐˣⁿ tiene m filas y n columnas. El producto Ax transforma un vector de n dimensiones en uno de m: es una transformación lineal. Una capa densa calcula y = Wx + b. El producto de matrices (C = AB) requiere que coincidan las dimensiones internas y su costo, del orden de m·n·p operaciones, domina el cómputo de los modelos.

Entender matrices es entender dónde se guarda el conocimiento de un modelo y en qué gasta su cómputo.