¿Qué es Alucinación (Hallucination)?

Cuando un LLM genera información que suena convincente pero es falsa, inventada o no verificable — sin indicar incertidumbre.

Los LLMs generan texto probabilísticamente coherente, no verificado contra la realidad. Pueden inventar citas académicas, APIs que no existen o hechos incorrectos con total seguridad en el tono.

La mitigación pasa por RAG (anclar respuestas a fuentes reales), verificación humana en dominios críticos, y prompts que piden al modelo admitir incertidumbre en vez de inventar.

Un modelo alucina cuando genera información falsa con total seguridad: una cita que no existe, una función de una librería que no está, una política que nadie escribió. Ocurre porque el modelo produce lo más probable, no lo verificado.

Tiene consecuencias reales. En 2024 un tribunal canadiense obligó a Air Canada a cumplir una política de reembolsos que su chatbot había inventado. Para reducirlas: dar al modelo las fuentes (RAG), pedir que cite, permitir que diga «no lo sé» y verificar lo importante.

Ejemplo

Pedirle a un LLM 5 referencias bibliográficas y recibir citas con formato perfecto, autores reales, pero DOIs que no existen.

Preguntas frecuentes

¿Se pueden eliminar las alucinaciones?

No del todo, pero se reducen mucho con buenas fuentes, instrucciones claras y verificación de lo que importa.

¿Por qué la IA inventa paquetes o funciones?

Porque genera nombres que «suenan» correctos. Comprueba siempre que una librería o función existe antes de usarla.

Términos relacionados

• RAG (Retrieval-Augmented Generation)
• LLM (Large Language Model)

Siguiente paso: curso de prompting y modelos de IA.