Volver al blog

Alucinaciones de la IA: por qué inventa datos y cómo evitar que te engañe

Transparencia: contenido generado con ayuda de inteligencia artificial.

Ilustración 3D low-poly: Iván examina con una lupa un bocadillo con una interrogación junto a Gemini, sorprendido

Le pides a un asistente que resuma una sentencia o cite una norma y te devuelve una respuesta impecable… con un dato que NO existe. Nadie en el equipo lo nota hasta que lo señala el cliente. Eso son las alucinaciones de la IA, y el problema no es que existan: es que suenan igual de bien que la verdad.

Así que le pregunté directamente al acusado. Esto fue lo que hablamos 👇

Yo: Claude, ¿qué es exactamente una alucinación?

Claude: Una respuesta que suena segura y convincente pero contiene datos falsos o inventados: una cifra, una cita, una ley que no existe, un nombre equivocado. Yo no consulto una base de datos de hechos; genero texto prediciendo qué palabras encajan mejor con lo que me pides.

Yo: ¿Y por qué no dices simplemente «no lo sé»?

Claude: En parte porque el entrenamiento y la evaluación de los modelos premian adivinar. OpenAI lo explicó en septiembre de 2025 con un examen tipo test: si fallar y dejar en blanco puntúan igual, lo racional es arriesgar. Por eso ayuda tanto que me des permiso expreso para no saber.

Yo: ¿Hay algún asistente que no se equivoque nunca?

Claude: No conviene asumirlo de ninguno, tampoco de mí. El control tiene que estar en tu proceso, no en la confianza en la herramienta.

Yo: Entonces, ¿lo reviso todo?

Claude: Revisarlo todo es inviable. Gradúalo según el riesgo: un borrador interno pide una lectura rápida; una cifra que va a un cliente o a un regulador pide un responsable con nombre y apellidos.

Por qué ocurren las alucinaciones, sin tecnicismos

Piensa en un compañero muy leído que, ante cualquier pregunta, siempre improvisa una respuesta que suene bien en lugar de decir «no lo sé». Eso es un asistente de IA.

El trabajo de OpenAI de septiembre de 2025 se titula Why Language Models Hallucinate y lo firman Kalai, Nachum, Vempala y Zhang. Su tesis es que los modelos alucinan en parte porque su entrenamiento y su evaluación premian adivinar frente a reconocer incertidumbre. Proponen cambiar la forma en que se puntúan las pruebas.

Para ti la lección es práctica. La IA no «miente»: está optimizada para responder.

Un caso que muestra el coste

En 2024, un tribunal de Columbia Británica (Canadá) resolvió el caso Moffatt contra Air Canada. El chatbot de la aerolínea había dicho a un cliente que podía solicitar con carácter retroactivo una tarifa por duelo. Otra página de la propia compañía contradecía esa información. El tribunal consideró que la aerolínea respondía por lo que decía su chatbot y rechazó que fuera una entidad separada. Es una resolución extranjera y no vincula a un juez español, pero deja una idea clara: el error de la herramienta acaba siendo TU error.

Una respuesta fluida no demuestra que sea cierta. La buena redacción es justo lo que hace que el error pase desapercibido, así que fíate más de lo que puedes comprobar que de lo bien que suena.

Señales de alerta de una respuesta dudosa

Una respuesta pide revisión si tiene alguna de estas características:

Técnicas para reducir el riesgo

No eliminan el problema, pero lo recortan mucho. Ordenadas por esfuerzo:

  1. Dale el documento en lugar de preguntar de memoria. Pega el texto o adjúntalo y pide que responda solo con eso.
  2. Permite el «no lo sé». Añade: «Si la respuesta no está en el texto, dilo; no la supongas.» Si los incentivos favorecen adivinar, conviene dar permiso expreso para no hacerlo.
  3. Pide fuente y fragmento. «Indica, para cada afirmación, el párrafo del documento en que te basas.» Así comprobar es cuestión de segundos.
  4. Divide la tarea. Primero extraer los datos; luego, en otro paso, interpretarlos.
  5. Pide a una segunda pasada que critique la primera. «Revisa tu respuesta anterior y señala qué afirmaciones no puedes respaldar.» Ayuda, pero no es una garantía.
  6. Usa una base de conocimiento propia. Cuando la IA consulta tus documentos antes de responder, hay menos margen para inventar. Lo explico con un caso práctico en el tutorial para crear un RAG con Gemini File Search y n8n.

Tres frases que puedes añadir a cualquier petición

Son pequeñas y cambian mucho el resultado:

La tercera es especialmente útil en resúmenes. Te deja ver de un vistazo qué parte es del documento y qué parte es interpretación, y decidir dónde detenerte. Cópialas en la plantilla de prompts del equipo y en pocos días son costumbre.

Quién verifica qué: un protocolo de tres niveles

RiesgoEjemplosVerificación mínima
BajoIdeas, borradores internos, reformular un textoLectura rápida de quien lo usa
MedioEmails a clientes, resúmenes de reuniones, informes internos con cifrasComprobar cada cifra y nombre contra el original
AltoContratos, normativa, datos fiscales, cifras que van a un cliente o a un reguladorRevisión por un responsable o por tu asesor; no usar la IA como fuente

Pon por escrito quién es responsable en cada nivel. Si «lo revisa alguien» no tiene nombre, no lo revisa nadie.

Un ejemplo hipotético

Una asesoría de 15 personas usa un asistente para preparar un resumen de novedades normativas para sus clientes. El asistente cita un artículo con un número correcto en apariencia. Un técnico lo comprueba en el texto oficial y descubre que el contenido es distinto. Sin ese paso, el cliente habría recibido una indicación errónea con el sello de la asesoría. Revisar costó diez minutos. No revisar habría costado reputación, y quizá dinero.

Qué hacer cuando detectas un error

Un fallo detectado vale oro si lo conviertes en aprendizaje. Cuando alguien encuentre una respuesta falsa:

  1. Guarda la captura de la petición y de la respuesta.
  2. Anota en qué paso se habría podido detectar antes de que llegara al cliente.
  3. Ajusta la plantilla o el protocolo, no solo la corrección puntual.
  4. Cuéntalo al equipo sin buscar culpables. Quien teme reconocer un error deja de avisar.

Cuándo no usar IA para datos

Un detalle de transparencia: si tu empresa pone un chatbot de cara al cliente, el Reglamento de IA añade obligaciones de información, y un bot que se inventa datos agrava el problema.

Lo que yo haría esta semana

👉 Reúne a tu equipo media hora y pide a cada persona un caso en que la IA les dio un dato falso o dudoso.

👉 Con esos ejemplos, escribe una página con tres reglas: qué se verifica siempre, quién lo verifica y qué usos quedan prohibidos.

👉 Mete las tres frases de arriba en la plantilla de prompts que usa todo el mundo. Es gratis y se nota desde el primer día.

¿Te ha pillado ya alguna IA con un dato inventado? Si quieres ayuda para montar ese protocolo en tu empresa, puedes escribirme desde contacto.

Glosario

Conversación con Claude editada para el post.

¿Quieres aplicar esto en tu empresa o en tu trabajo?

Ver servicios Cuéntame tu caso →
Iván Vázquez Caballero
Iván Vázquez Caballero

Especialista en IA y automatización. +12 años en proyectos tech de alto impacto; ayudo a profesionales y pymes a aplicar la IA con criterio. Sobre mí · LinkedIn