Large Language Models

Alucinación

Cuando un modelo genera información falsa o inventada presentándola con seguridad como si fuera cierta.

Instrucción o entrada para el modelo

El texto (y a veces imágenes u otros datos) que se le da a un modelo generativo para indicarle qué hacer.

La unidad básica de texto que procesa un modelo de lenguaje: puede ser una palabra, parte de una palabra o un signo.

Chain-of-Thought

Hacer que un modelo escriba sus pasos intermedios de razonamiento antes de dar la respuesta final.

Ventana de contexto

La cantidad máxima de tokens que un modelo puede considerar a la vez, incluyendo tu mensaje, el historial y su propia respuesta.

Ajuste fino

Continuar el entrenamiento de un modelo ya entrenado con datos específicos para especializarlo en una tarea, estilo o dominio.

Modelo fundacional

Un modelo grande entrenado con datos amplios y diversos que sirve como base para muchas tareas distintas.

In-Context Learning

La capacidad de un LLM de aprender una tarea a partir de instrucciones o ejemplos incluidos en el prompt, sin cambiar sus pesos.

Large Language Model

Un modelo de IA entrenado con enormes cantidades de texto para predecir la siguiente palabra, lo que le permite conversar, escribir, resumir y razonar.

Modelo multimodal

Un modelo capaz de procesar y a veces generar varios tipos de información, como texto, imágenes, audio o video.

Predicción del siguiente token

La tarea con la que se entrenan los LLMs: dado un texto, predecir cuál es el token que sigue.

Modelo de pesos abiertos

Un modelo cuyos pesos entrenados se publican para que cualquiera pueda descargarlo, ejecutarlo y adaptarlo.

Preentrenamiento

La primera y más costosa fase de entrenamiento de un modelo fundacional, en la que aprende de enormes cantidades de datos sin etiquetar.

Retrieval-Augmented Generation

Una técnica que conecta un LLM con fuentes de información externas: primero busca documentos relevantes y luego genera la respuesta basándose en ellos.

Muestreo

El método con el que un modelo generativo elige el siguiente token a partir de su distribución de probabilidades.

Temperatura

Un parámetro que controla qué tan aleatorias o predecibles son las respuestas de un modelo generativo.

Tokenización

El proceso de dividir un texto en tokens para que un modelo pueda procesarlo.

Tokenizador

El componente que convierte texto en tokens (y tokens de vuelta en texto) usando un vocabulario fijo.

Nucleus sampling

Una técnica de muestreo que elige el siguiente token solo entre las opciones más probables cuya probabilidad acumulada alcanza un umbral p.

Una arquitectura de red neuronal que procesa secuencias usando mecanismos de atención para relacionar cada elemento con todos los demás.

Modelo denso

Un modelo en el que todos los parámetros participan en el procesamiento de cada entrada.

Ajuste por instrucciones

Ajustar un modelo con muchas tareas descritas como instrucciones para que aprenda a seguir instrucciones en general.

Destilación de conocimiento

Entrenar un modelo pequeño (alumno) para imitar el comportamiento de un modelo grande (maestro), conservando buena parte de su calidad.

Caché de keys y values

Una memoria que guarda las keys y values ya calculadas de los tokens anteriores para no recalcularlas en cada paso de generación.

Adaptación de bajo rango

Una técnica de fine-tuning que congela los pesos originales y entrena pequeñas matrices adicionales de bajo rango que modifican su comportamiento.

Mixture of Experts

Una arquitectura que divide parte del modelo en varios «expertos» y activa solo algunos para cada token, logrando mucha capacidad con menor costo por consulta.

Parameter-Efficient Fine-Tuning

Técnicas de fine-tuning que entrenan solo una pequeña fracción de parámetros adicionales en lugar de todo el modelo.

Perplejidad

Una métrica que mide qué tan «sorprendido» está un modelo de lenguaje por un texto: cuanto menor, mejor predice.

Datos de preferencia

Datos que indican cuál de dos o más respuestas es mejor, usados para ajustar modelos a lo que prefieren las personas.

Una variante de LoRA que carga el modelo base cuantizado a 4 bits para poder hacer fine-tuning con mucha menos memoria.

Cuantización

Reducir la precisión numérica de los pesos (y a veces activaciones) de un modelo para que ocupe menos memoria y se ejecute más rápido.

Modelo de razonamiento

Un LLM entrenado para generar un proceso de razonamiento extenso antes de responder, lo que mejora su desempeño en problemas complejos.

Aprendizaje por refuerzo con retroalimentación de IA

Una variante de RLHF en la que las preferencias las genera un modelo de IA, guiado por principios o instrucciones, en lugar de personas.

Aprendizaje por refuerzo con retroalimentación humana

Una técnica para ajustar un modelo usando preferencias humanas: personas comparan respuestas y el modelo aprende a producir las preferidas.

Enrutador

El componente que decide a qué expertos (en MoE) o a qué modelo (en un sistema) se envía cada entrada.

Modelo disperso

Un modelo en el que solo una parte de sus parámetros se usa (o es distinta de cero) para procesar cada entrada.

Decodificación especulativa

Acelerar la generación haciendo que un modelo pequeño proponga varios tokens y que el modelo grande los verifique de una sola vez.

Supervised Fine-Tuning

Ajustar un modelo con ejemplos de entradas y las respuestas ideales que debería producir.

Uso de herramientas

La capacidad de un modelo de solicitar el uso de herramientas externas —buscar, calcular, consultar APIs— y usar sus resultados para responder.

IA constitucional

Un método de alineación en el que un modelo se entrena para seguir un conjunto explícito de principios, usando retroalimentación generada por IA.

Direct Preference Optimization

Un método para ajustar un modelo con datos de preferencia directamente, sin entrenar un modelo de recompensa ni usar aprendizaje por refuerzo.

Capacidades emergentes

Capacidades que parecen aparecer de forma relativamente abrupta en modelos grandes y que no se observan en versiones más pequeñas.

Razonamiento latente

Enfoques en los que un modelo razona en sus representaciones internas (vectores) en lugar de, o además de, escribir su razonamiento como texto.

Modelo de recompensa

Un modelo entrenado para asignar una puntuación a una respuesta que estima qué tan buena la considerarían las personas.

Leyes de escalamiento

Relaciones empíricas que describen cómo mejora el rendimiento de un modelo al aumentar sus parámetros, sus datos y su cómputo.

Datos sintéticos

Datos generados artificialmente —a menudo por otros modelos de IA— para entrenar o evaluar modelos.

Cómputo en tiempo de inferencia

Mejorar las respuestas de un modelo dándole más cómputo al momento de responder: pensar más, generar varias opciones o verificar.