Alucinación de IA: ¿por qué una IA inventa respuestas?

Un precio inventado, una ley que no existe, una dirección errónea: cómo detectar y limitar estos errores.

Una alucinación de IA es un contenido incorrecto, inoportuno o ficticio generado por un modelo de inteligencia artificial y presentado de manera factual, como si fuera auténtico o conforme a lo solicitado. Proviene del funcionamiento mismo de los modelos generativos, que predicen un texto plausible sin verificar que sea verdadero.

Try 30 days free

30 days free, no credit card.

Por Pilotiko editorial team · Actualizado el

En resumen

  • Término preferido por la OQLF: alucinación de IA.
  • El NIST habla más bien de «confabulación»: un contenido falso afirmado con seguridad.
  • El peligro viene del tono seguro, que lleva a creer sin verificar.
  • Se reduce proporcionando las fuentes y exigiendo citas.

¿De dónde vienen las alucinaciones de IA?

Según la ficha de la OQLF, una alucinación puede producirse cuando los datos de entrenamiento del modelo de lenguaje de gran tamaño son insuficientes o presentan lagunas, o cuando la solicitud inicial es ambigua. La ficha cita un ejemplo conocido: una IA popular afirmó que el telescopio James Webb había tomado las primeras fotos de un exoplaneta, cuando esas fotos datan de 2004 y el telescopio fue lanzado en 2021 [1].

El NIST, en su perfil sobre la IA generativa, emplea el término confabulación: la producción de un contenido erróneo o falso, afirmado con seguridad. Explica que es una consecuencia natural del diseño de los modelos, que producen resultados cercanos a la distribución estadística de sus datos de entrenamiento. El NIST señala también que algunos consideran la palabra «alucinación» demasiado humanizante [2].

La OQLF añade que las alucinaciones no afectan solo al texto: también pueden aparecer en imágenes o sonidos generados [1].

¿Cómo se ve una alucinación en una pyme?

Tipos de alucinaciones y posibles consecuencias
TipoEjemplo en una empresa de serviciosConsecuencia
Hecho inventadoUn precio o un plazo que no aparece en ninguna parte de sus tarifasPromesa imposible de cumplir
Fuente ficticiaUn reglamento municipal o un artículo de ley que no existeConsejo erróneo dado al cliente
ContradicciónDos horarios de apertura distintos en la misma respuestaPérdida de confianza
Fuera de temaUna respuesta sobre el techo plano a una pregunta sobre canalonesTiempo perdido, cliente frustrado

¿Cuántos errores pasarían sin revisión?

¿Cómo reducir las alucinaciones?

La documentación de Anthropic sobre su modelo Claude propone técnicas sencillas. Permitir explícitamente al modelo decir «no lo sé». En el caso de documentos largos, pedirle primero que extraiga citas textuales y luego que trabaje a partir de ellas. Hacer que respalde cada afirmación con una cita, que se pueda verificar [3].

  • Proporcionar la fuente: pegue sus tarifas o su política de cancelación en la solicitud en lugar de dejar que el modelo adivine.
  • Restringir el tema: un modelo que responde solo a partir de sus documentos inventa menos.
  • Pedir las referencias: una respuesta sin fuente verificable se trata como un borrador.
  • Mantener a una persona en el proceso: la aprobación humana antes de cualquier envío es la red de seguridad más fiable.
  • Publicar hechos claros en su sitio, incluso en datos estructurados, para que los asistentes y las AI Overviews de Google encuentren la información correcta.

¿Qué errores agravan el problema?

  • Pedir «búscame una estadística sobre…» sin exigir un enlace: es el terreno ideal para una fuente inventada.
  • Confiar un agente de IA conectado a sus clientes sin validación de los mensajes salientes.
  • Tomar la fluidez del texto como garantía de exactitud.
  • Corregir un error una sola vez sin cambiar la instrucción ni la fuente proporcionada.

¿Cómo limita Pilotiko este riesgo?

Los agentes de IA de Pilotiko trabajan a partir de los datos reales de la empresa (agenda, citas, carga de trabajo) en lugar de hacerlo de memoria. Sobre todo, toda acción que afecte a un cliente, a dinero o a un envío espera el visto bueno de una persona: una posible alucinación sigue siendo un borrador por corregir, no un mensaje enviado.

Preguntas frecuentes

¿Por qué una IA inventa en lugar de decir que no sabe?

El modelo predice la continuación de texto más plausible; una respuesta inventada puede ser muy plausible. Sin una instrucción que le permita expresar su incertidumbre, tiende a llenar el vacío. La documentación de Anthropic recomienda precisamente permitirle decir «no lo sé».

¿Desaparecerán las alucinaciones con los nuevos modelos?

Los modelos mejoran, pero el NIST describe la confabulación como una consecuencia natural de la forma en que se diseñan los modelos generativos. Por lo tanto, hay que prever verificaciones, incluso con las mejores herramientas.

¿Una alucinación compromete la responsabilidad de mi empresa?

Si se envía un mensaje erróneo a un cliente en nombre de su empresa, es su empresa quien lo envió. Para una cuestión jurídica concreta, consulte a un abogado. De ahí el interés de validar todo envío antes de que salga.

¿Cómo detectar rápidamente una alucinación?

Verifique primero las cifras, los nombres propios, las fechas y las referencias a leyes o páginas web. Son los elementos que más se inventan. Una referencia imposible de encontrar es una señal de alarma.

¿Es «alucinación» el término correcto?

La OQLF prefiere «alucinación de IA». El NIST prefiere «confabulación» y señala que algunos consideran «alucinación» demasiado humanizante. Ambos designan el mismo problema.

Fuentes

  1. Office québécois de la langue française (Vitrine linguistique), hallucination d'IA (GDT) (consultado el 15 de octubre de 2026).
  2. NIST, NIST AI 600-1 : Generative Artificial Intelligence Profile (consultado el 15 de octubre de 2026).
  3. Anthropic (documentation Claude), Reduce hallucinations (consultado el 15 de octubre de 2026).

Your whole business, on one screen.

Each department is a room. Pilotiko prepares the work; you approve with one click.

Try 30 days free

The Pilotiko office of a sample company: each department is a room.
  • Call answered
  • Appointment confirmed
  • Email reply ready
  • Invoice prepared

Pruebe la oficina con su equipo

30 días gratis.

Pruebe 30 días gratis