Hallucination
Alucinación
En una frase
Hallucination: cuando un modelo genera información falsa o inventada presentándola con seguridad como si fuera cierta.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
Un LLM puede citar un libro que no existe, inventar una estadística o atribuir una frase a quien nunca la dijo, y hacerlo con total naturalidad. A eso se le llama alucinación.
Ocurre porque el modelo está entrenado para producir texto plausible, y lo plausible no siempre es verdadero. Cuando no sabe algo, a veces completa el hueco con lo que «suena bien».
Nivel técnico
Profundizando
Causas: el objetivo de predicción del siguiente token no penaliza directamente la falsedad; conocimiento escaso o contradictorio en los datos; y un post-entrenamiento que puede premiar respuestas seguras sobre admitir incertidumbre. Mitigaciones: Grounding con Retrieval-Augmented Generation, uso de herramientas de búsqueda o cálculo, pedir citas verificables, entrenamiento para expresar incertidumbre y evaluaciones de factualidad.
Error común
¿Por qué importa?
Es uno de los mayores obstáculos para usar LLMs en contextos donde la exactitud es crítica, como salud, derecho o finanzas.
¿Dónde se utiliza?
- Diseño de sistemas confiables
- Evaluación de factualidad
- Motivación para RAG
Antes de aprender esto
Si alguno te resulta nuevo, empieza por ahí.
Continúa aprendiendo
- GroundingHacer que las respuestas de un modelo se basen en fuentes concretas y verificables en lugar de solo en su memoria.
- Retrieval-Augmented GenerationUna técnica que conecta un LLM con fuentes de información externas: primero busca documentos relevantes y luego genera la respuesta basándose en ellos.
Conceptos relacionados
Aparece en las rutas Qué es realmente un LLM y IA segura y alineada.