Matemáticas

Un solo número, como 3, −0.5 o 1,024.

Una tabla rectangular de números organizada en filas y columnas.

Un número entre 0 y 1 que expresa qué tan probable es que ocurra algo.

Una lista ordenada de números que puede representar un punto o una dirección en un espacio de varias dimensiones.

La rama de las matemáticas que estudia vectores, matrices y transformaciones lineales; es el lenguaje de cálculo de la IA.

Convolución

Una operación que desliza un pequeño filtro sobre una imagen (u otra señal) y calcula en cada posición qué tanto coincide con un patrón.

Similitud coseno

Una medida de qué tan parecidos son dos vectores según el ángulo entre ellos, sin importar su longitud.

Una medida de qué tan rápido cambia el resultado de una función cuando cambias un poco su entrada.

Una descripción de todos los resultados posibles de algo incierto y de qué tan probable es cada uno.

Un vector que indica, para cada parámetro, en qué dirección y con qué intensidad cambia una función; apunta hacia donde la función crece más rápido.

Función de pérdida

Una fórmula que mide qué tan equivocadas están las predicciones del modelo; el entrenamiento busca hacerla lo más pequeña posible.

Encontrar los valores que minimizan (o maximizan) una función; en IA, los parámetros que minimizan la pérdida.

Una operación entre dos vectores que multiplica sus componentes una a una y suma los resultados; mide qué tanto «apuntan en la misma dirección».

Una función que convierte una lista de números cualesquiera en probabilidades positivas que suman 1.

Un arreglo de números con cualquier cantidad de dimensiones; generaliza escalares, vectores y matrices.

Retropropagación

El algoritmo que calcula cuánto contribuyó cada parámetro de una red al error, propagando ese error desde la salida hacia atrás.

Entropía cruzada

La función de pérdida estándar para clasificación y modelos de lenguaje: penaliza al modelo cuando asigna baja probabilidad a la respuesta correcta.

Operaciones de punto flotante

Operaciones de punto flotante: la unidad para medir cuánto cálculo requiere un modelo (FLOPs) o cuánto puede hacer un chip por segundo (FLOP/s).

Descenso de gradiente

Un algoritmo de optimización que ajusta los parámetros de un modelo dando pequeños pasos en la dirección que más reduce el error.