Research / Frontier AI

IA agéntica

El enfoque de construir sistemas de IA que actúan con cierto grado de autonomía para lograr objetivos, en lugar de solo responder.

Cómputo

La cantidad de procesamiento que se usa para entrenar o ejecutar un modelo, normalmente medida en FLOPs o en horas de GPU.

Uso de computadora

La capacidad de un modelo de operar una computadora como lo haría una persona: ver la pantalla, mover el cursor, hacer clic y escribir.

Modelo de razonamiento

Un LLM entrenado para generar un proceso de razonamiento extenso antes de responder, lo que mejora su desempeño en problemas complejos.

Alineación de la IA

El problema de lograr que los sistemas de IA persigan los objetivos y valores que realmente pretendemos, no una versión distorsionada de ellos.

IA constitucional

Un método de alineación en el que un modelo se entrena para seguir un conjunto explícito de principios, usando retroalimentación generada por IA.

Capacidades emergentes

Capacidades que parecen aparecer de forma relativamente abrupta en modelos grandes y que no se observan en versiones más pequeñas.

Razonamiento latente

Enfoques en los que un modelo razona en sus representaciones internas (vectores) en lugar de, o además de, escribir su razonamiento como texto.

Interpretabilidad mecanicista

Un enfoque de investigación que intenta descifrar los algoritmos internos de una red neuronal a nivel de neuronas, características y circuitos.

Colapso de modelos

La degradación que sufren los modelos generativos cuando se entrenan repetidamente con datos generados por otros modelos, perdiendo diversidad y calidad.

Representation Engineering

Técnicas para leer y modificar directamente las representaciones internas de un modelo con el fin de detectar o controlar conceptos como la honestidad o el tono.

Modelo de recompensa

Un modelo entrenado para asignar una puntuación a una respuesta que estima qué tan buena la considerarían las personas.

Leyes de escalamiento

Relaciones empíricas que describen cómo mejora el rendimiento de un modelo al aumentar sus parámetros, sus datos y su cómputo.

Sparse Autoencoders

Redes auxiliares que descomponen las activaciones internas de un modelo en muchas «características» interpretables, de las cuales solo unas pocas se activan a la vez.

Superalineación

El problema de alinear sistemas de IA que podrían superar a los humanos, cuando ya no podemos evaluar directamente si su comportamiento es correcto.

Datos sintéticos

Datos generados artificialmente —a menudo por otros modelos de IA— para entrenar o evaluar modelos.

Cómputo en tiempo de inferencia

Mejorar las respuestas de un modelo dándole más cómputo al momento de responder: pensar más, generar varias opciones o verificar.

Modelos del mundo

Modelos que aprenden una representación interna de cómo funciona un entorno y pueden predecir o simular qué pasará si se toman ciertas acciones.