Le pides a un asistente que resuma una sentencia o cite una norma y te devuelve una respuesta impecable… con un dato que NO existe. Nadie en el equipo lo nota hasta que lo señala el cliente. Eso son las alucinaciones de la IA, y el problema no es que existan: es que suenan igual de bien que la verdad.
Así que le pregunté directamente al acusado. Esto fue lo que hablamos 👇
Yo: Claude, ¿qué es exactamente una alucinación?
Claude: Una respuesta que suena segura y convincente pero contiene datos falsos o inventados: una cifra, una cita, una ley que no existe, un nombre equivocado. Yo no consulto una base de datos de hechos; genero texto prediciendo qué palabras encajan mejor con lo que me pides.
Yo: ¿Y por qué no dices simplemente «no lo sé»?
Claude: En parte porque el entrenamiento y la evaluación de los modelos premian adivinar. OpenAI lo explicó en septiembre de 2025 con un examen tipo test: si fallar y dejar en blanco puntúan igual, lo racional es arriesgar. Por eso ayuda tanto que me des permiso expreso para no saber.
Yo: ¿Hay algún asistente que no se equivoque nunca?
Claude: No conviene asumirlo de ninguno, tampoco de mí. El control tiene que estar en tu proceso, no en la confianza en la herramienta.
Yo: Entonces, ¿lo reviso todo?
Claude: Revisarlo todo es inviable. Gradúalo según el riesgo: un borrador interno pide una lectura rápida; una cifra que va a un cliente o a un regulador pide un responsable con nombre y apellidos.
Por qué ocurren las alucinaciones, sin tecnicismos
Piensa en un compañero muy leído que, ante cualquier pregunta, siempre improvisa una respuesta que suene bien en lugar de decir «no lo sé». Eso es un asistente de IA.
El trabajo de OpenAI de septiembre de 2025 se titula Why Language Models Hallucinate y lo firman Kalai, Nachum, Vempala y Zhang. Su tesis es que los modelos alucinan en parte porque su entrenamiento y su evaluación premian adivinar frente a reconocer incertidumbre. Proponen cambiar la forma en que se puntúan las pruebas.
Para ti la lección es práctica. La IA no «miente»: está optimizada para responder.
Un caso que muestra el coste
En 2024, un tribunal de Columbia Británica (Canadá) resolvió el caso Moffatt contra Air Canada. El chatbot de la aerolínea había dicho a un cliente que podía solicitar con carácter retroactivo una tarifa por duelo. Otra página de la propia compañía contradecía esa información. El tribunal consideró que la aerolínea respondía por lo que decía su chatbot y rechazó que fuera una entidad separada. Es una resolución extranjera y no vincula a un juez español, pero deja una idea clara: el error de la herramienta acaba siendo TU error.
Una respuesta fluida no demuestra que sea cierta. La buena redacción es justo lo que hace que el error pase desapercibido, así que fíate más de lo que puedes comprobar que de lo bien que suena.
Señales de alerta de una respuesta dudosa
Una respuesta pide revisión si tiene alguna de estas características:
- Datos muy concretos sin fuente: fechas, cifras exactas, números de artículo, nombres de estudios.
- Citas literales que no puedes localizar en el documento original.
- Referencias con aspecto real: enlaces, títulos o sentencias que parecen auténticos pero no se abren o no dicen lo que se afirma.
- Seguridad excesiva ante una pregunta ambigua o poco documentada.
- Temas recientes o locales: normas de hace pocos meses, datos de tu municipio, precios actuales.
- Respuestas que coinciden demasiado con lo que esperabas en un tema donde no hay certeza.
Técnicas para reducir el riesgo
No eliminan el problema, pero lo recortan mucho. Ordenadas por esfuerzo:
- Dale el documento en lugar de preguntar de memoria. Pega el texto o adjúntalo y pide que responda solo con eso.
- Permite el «no lo sé». Añade: «Si la respuesta no está en el texto, dilo; no la supongas.» Si los incentivos favorecen adivinar, conviene dar permiso expreso para no hacerlo.
- Pide fuente y fragmento. «Indica, para cada afirmación, el párrafo del documento en que te basas.» Así comprobar es cuestión de segundos.
- Divide la tarea. Primero extraer los datos; luego, en otro paso, interpretarlos.
- Pide a una segunda pasada que critique la primera. «Revisa tu respuesta anterior y señala qué afirmaciones no puedes respaldar.» Ayuda, pero no es una garantía.
- Usa una base de conocimiento propia. Cuando la IA consulta tus documentos antes de responder, hay menos margen para inventar. Lo explico con un caso práctico en el tutorial para crear un RAG con Gemini File Search y n8n.
Tres frases que puedes añadir a cualquier petición
Son pequeñas y cambian mucho el resultado:
- «Responde solo con la información que te he dado.»
- «Si no estás seguro, dilo y explica qué te falta.»
- «Separa lo que está en el texto de lo que deduces tú.»
La tercera es especialmente útil en resúmenes. Te deja ver de un vistazo qué parte es del documento y qué parte es interpretación, y decidir dónde detenerte. Cópialas en la plantilla de prompts del equipo y en pocos días son costumbre.
Quién verifica qué: un protocolo de tres niveles
| Riesgo | Ejemplos | Verificación mínima |
|---|---|---|
| Bajo | Ideas, borradores internos, reformular un texto | Lectura rápida de quien lo usa |
| Medio | Emails a clientes, resúmenes de reuniones, informes internos con cifras | Comprobar cada cifra y nombre contra el original |
| Alto | Contratos, normativa, datos fiscales, cifras que van a un cliente o a un regulador | Revisión por un responsable o por tu asesor; no usar la IA como fuente |
Pon por escrito quién es responsable en cada nivel. Si «lo revisa alguien» no tiene nombre, no lo revisa nadie.
Un ejemplo hipotético
Una asesoría de 15 personas usa un asistente para preparar un resumen de novedades normativas para sus clientes. El asistente cita un artículo con un número correcto en apariencia. Un técnico lo comprueba en el texto oficial y descubre que el contenido es distinto. Sin ese paso, el cliente habría recibido una indicación errónea con el sello de la asesoría. Revisar costó diez minutos. No revisar habría costado reputación, y quizá dinero.
Qué hacer cuando detectas un error
Un fallo detectado vale oro si lo conviertes en aprendizaje. Cuando alguien encuentre una respuesta falsa:
- Guarda la captura de la petición y de la respuesta.
- Anota en qué paso se habría podido detectar antes de que llegara al cliente.
- Ajusta la plantilla o el protocolo, no solo la corrección puntual.
- Cuéntalo al equipo sin buscar culpables. Quien teme reconocer un error deja de avisar.
Cuándo no usar IA para datos
- Cifras que se firman o se presentan: declaraciones, balances, facturas. Las genera tu software de gestión, no un chat.
- Normativa y plazos legales. Úsala para entender un texto que tú le das, no como fuente. Para decisiones, conviene consultarlo con tu asesor.
- Datos que cambian a diario: precios, existencias, tipos de cambio.
- Información de personas concretas. Además del riesgo de error, hay un tema de protección de datos.
- Cuando no hay nadie que pueda comprobar el resultado. Una respuesta que no se puede verificar no sirve para decidir.
Un detalle de transparencia: si tu empresa pone un chatbot de cara al cliente, el Reglamento de IA añade obligaciones de información, y un bot que se inventa datos agrava el problema.
Lo que yo haría esta semana
👉 Reúne a tu equipo media hora y pide a cada persona un caso en que la IA les dio un dato falso o dudoso.
👉 Con esos ejemplos, escribe una página con tres reglas: qué se verifica siempre, quién lo verifica y qué usos quedan prohibidos.
👉 Mete las tres frases de arriba en la plantilla de prompts que usa todo el mundo. Es gratis y se nota desde el primer día.
¿Te ha pillado ya alguna IA con un dato inventado? Si quieres ayuda para montar ese protocolo en tu empresa, puedes escribirme desde contacto.
Glosario
- Alucinación: respuesta de la IA que parece correcta pero contiene datos inventados.
- Modelo de lenguaje: el programa que genera el texto, entrenado con grandes cantidades de escritos.
- Fuente primaria: el documento original, como la ley publicada o el contrato firmado.
- RAG: técnica por la que la IA consulta tus documentos antes de responder.
- Verificación: comprobar un dato contra el original antes de usarlo.
Conversación con Claude editada para el post.
