Qué son las alucinaciones en LLMs y por qué ocurren

Una alucinación en un modelo de lenguaje (LLM) es una respuesta que suena plausible y segura pero es factualmente incorrecta o no está respaldada por ninguna fuente. El modelo no miente —mentir requiere intención— sino que rellena un vacío de conocimiento con la continuación estadísticamente más probable, que a veces es verdad y a veces es una invención convincente. El término técnico más preciso es confabulación: el sistema no sabe que no sabe.

Para entender por qué ocurre conviene empezar por una pregunta que parece simple y no lo es.

¿Por qué un sistema tan avanzado inventa cosas?

La respuesta intuitiva —“le faltan datos”— es solo una parte. La explicación más interesante apareció en 2025, en un paper de OpenAI titulado Why Language Models Hallucinate, y usa una analogía que vale la pena tener presente: un examen escolar.^[1]

Imagina un examen de opción múltiple donde dejar una respuesta en blanco vale cero puntos, pero adivinar tiene una chance de acertar. ¿Qué hace un estudiante racional? Adivina siempre. Nunca deja nada en blanco, porque adivinar nunca es peor que abstenerse. Según el paper de OpenAI, los modelos de lenguaje viven permanentemente en ese examen: se los entrena y evalúa con métricas binarias (acertó / no acertó) que penalizan el “no sé” exactamente igual que una respuesta equivocada. El resultado es que el sistema aprende que adivinar con confianza es la estrategia ganadora, porque admitir incertidumbre solo le resta puntos.^[1:1]

Este es el giro que cambia cómo entender el problema: la alucinación no es solo una falla técnica del modelo, es en parte un problema de incentivos creado por la forma en que medimos a la IA. Un modelo que dijera “no estoy seguro” más seguido sería más confiable, pero saca peor puntaje en los benchmarks que premian responder siempre.

A esa causa de fondo se suman otras, más conocidas:

• Vacíos en los datos de entrenamiento. Sobre temas raros, especializados o posteriores a su fecha de corte, el modelo no tiene señal de la cual tirar. Igual responde, y lo hace con seguridad.^[2]
• Prompts ambiguos. Una instrucción vaga le da más latitud al modelo para derivar hacia la coherencia en lugar de la precisión: optimiza por sonar bien, no por estar en lo cierto.^[2:1]
• Contexto de mala calidad. Aun con técnicas de recuperación de información (RAG), si lo que el sistema recupera es pobre o está desactualizado, la respuesta saldrá mal. RAG es solo tan bueno como lo que trae.^[2:2]

¿Qué tan seguido pasa? (la parte incómoda)

Lo suficiente como para que ningún sistema crítico pueda ignorarlo. Las cifras varían enormemente según cómo se mida —y esa variación es, en sí misma, parte del mensaje:

• El benchmark TruthfulQA reporta tasas de alucinación por encima del 50% en la mayoría de los modelos base.^[3]
• El AI Index 2026 de Stanford halló tasas de entre 22% y 94% según la prueba, en 26 modelos líderes.^[4]
• En tareas con recuperación de información bien hecha (grounded), las evaluaciones de OpenAI muestran que la tasa puede caer por debajo del 2%.^[3:1]

La conclusión no es “los modelos son malos”, sino algo más útil: la tasa de alucinación depende enormemente del caso de uso, del contexto que le des y de cómo lo midas. El mismo modelo puede alucinar el 50% en preguntas abiertas y menos del 2% cuando responde anclado a documentos confiables. Por eso no se puede confiar en una reputación general del modelo: hay que medirlo en tu aplicación, con tus datos.

Los tipos de alucinación que vas a encontrar

No todas las alucinaciones son iguales, y distinguirlas ayuda a combatirlas:

El caso real más citado pertenece a la última categoría: en 2023, un abogado presentó ante un tribunal de Nueva York un escrito generado con IA que citaba seis casos judiciales que no existían, con nombres y números convincentes. El juez sancionó a los abogados.^[5] No fue un hecho aislado: entre 2023 y 2025 se documentaron cientos de decisiones judiciales que abordaron alucinaciones en escritos legales.^[5:1]

Por qué esto es un problema de negocio, no solo técnico

En un experimento personal, una alucinación es una anécdota graciosa. En producción, es responsabilidad. Cuando un asistente bancario inventa una tasa de interés, un agente de seguros interpreta mal una cobertura o un chatbot de salud sugiere algo incorrecto, el costo es real —reputacional, legal y financiero. Por eso las alucinaciones importan especialmente en sectores donde una respuesta equivocada tiene consecuencias: banca, salud, legal y seguros.^[6]

Y acá hay una asimetría peligrosa: la alucinación viene envuelta en seguridad. El sistema no titubea cuando inventa; lo afirma con el mismo tono confiado que usa para lo correcto. Como resumió un análisis del fenómeno, el peligro no es que “la IA dijo algo incorrecto”, sino que “lo dijo de forma hermosa, y le creímos”.

Cómo se reducen (y por qué no se eliminan del todo)

La buena noticia es que el entendimiento del problema maduró, y con él las herramientas para atacarlo. Las palancas más efectivas:

1. Anclar las respuestas a fuentes confiables (RAG). Es la mitigación más recomendada y la de mayor impacto: darle al modelo documentos curados de los cuales extraer en lugar de dejarlo “recordar”. Baja drásticamente las alucinaciones, pero —importante— no es bala de plata: si la recuperación falla, el sistema vuelve a adivinar.^[2:3][1:2]
2. Diseñar el sistema para que pueda decir “no sé”. Un modelo configurado para pedir aclaración o abstenerse ante la incertidumbre es más confiable que uno que siempre responde. Esto incluye exponer niveles de confianza o citar fuentes.^[7]
3. Ajuste fino orientado a la fidelidad. Entrenar al modelo para preferir respuestas fieles a la fuente; algunos estudios reportan reducciones muy grandes de la tasa de alucinación con esta técnica.^[8]
4. Prompts y contexto bien diseñados. Acotar el alcance, dar rol y anclas reduce la latitud para divagar —aunque, por sí solo, no compensa una mala recuperación de datos.^[2:4]

Ninguna de estas técnicas lleva la tasa a cero, y conviene desconfiar de quien prometa lo contrario. Mientras los modelos sigan siendo probabilísticos y los benchmarks sigan premiando adivinar, una porción de alucinación es estructural. Lo que sí se puede hacer —y es lo que separa a un sistema confiable de uno peligroso— es medirla, monitorearla y mantenerla bajo control.

Medir antes de confiar

Acá es donde la teoría se vuelve práctica. No alcanza con aplicar RAG y suponer que el problema quedó resuelto: hay que verificar, con casos de prueba reales, qué tan seguido tu agente inventa, y vigilarlo en el tiempo porque la tasa cambia cuando cambia el modelo o el contexto.

Es lo que hace una plataforma de evaluación como ArtificialQA: conecta a tu agente —por URL o por API, sin escribir código— y lo somete a un evaluador de alucinaciones que mide, sobre casos representativos, cuándo la respuesta se aparta de la verdad o de la fuente. El resultado deja de ser una corazonada (“creo que el bot anda bien”) y se vuelve un número que puedes seguir, comparar entre versiones y mostrar en una auditoría. Porque con las alucinaciones la pregunta nunca es si van a ocurrir, sino cuántas estás dispuesto a tolerar —y eso solo se sabe midiéndolo.

---

Preguntas frecuentes

¿Qué es una alucinación en un LLM? Es una respuesta que parece plausible y segura pero es factualmente incorrecta o no está respaldada por ninguna fuente. El modelo rellena un vacío con la continuación más probable, sin saber que es falsa.

¿Por qué los modelos de IA alucinan? Por una combinación de causas: vacíos en los datos de entrenamiento, prompts ambiguos, contexto de mala calidad y —según OpenAI— un problema de incentivos, porque los benchmarks premian adivinar con confianza por encima de admitir incertidumbre.

¿Las alucinaciones son mentiras? No. Mentir implica intención de engañar. El modelo no tiene intención: solo genera la secuencia estadísticamente más probable. El término técnico es confabulación.

¿Se pueden eliminar por completo las alucinaciones? No del todo. Mientras los modelos sean probabilísticos, una porción es estructural. Se pueden reducir mucho con RAG, ajuste fino y buen diseño de prompts, y mantener bajo control midiéndolas y monitoreándolas.

¿RAG soluciona las alucinaciones? Las reduce de forma significativa al anclar las respuestas a fuentes confiables, pero no es una solución completa: si la recuperación trae datos pobres o falla, el modelo vuelve a adivinar.

¿Cómo se mide la tasa de alucinación de un chatbot? Sometiéndolo a casos de prueba representativos con un evaluador que detecte cuándo la respuesta se aparta de la verdad o de la fuente, y monitoreando esa tasa en el tiempo, ya que cambia al cambiar el modelo o el contexto.