Fundamentosalucinaciones
Alucinaciones de la IA: qué son y cómo evitarlas
Una alucinación de la IA es una respuesta falsa dicha con seguridad. Por qué ocurre, casos reales (Mata v. Avianca, Air Canada) y un protocolo para verificar.
- Autor: humAIns
- 7 min de lectura
índice · 8 apartados
Una alucinación de la IA es una respuesta falsa o inventada que el modelo presenta con la misma seguridad que una verdadera: una cita textual que nadie dijo, una sentencia que no existe, una cifra que no sale en ningún informe. No es un fallo ocasional ni un "bug" que vaya a desaparecer pronto: es una consecuencia de cómo funcionan los modelos de lenguaje, y por eso la verificación forma parte del uso profesional.
Esta guía explica por qué ocurre, muestra dos casos reales, ofrece técnicas para reducir las alucinaciones y propone un protocolo de verificación para tu trabajo. Para entender de dónde viene el problema, ayuda leer antes qué es la IA generativa.
Por qué alucinan los modelos
Google lo explica en su guía sobre contenido generado con IA: los modelos generativos no recuperan hechos, predicen una secuencia probable de palabras a partir de sus datos de entrenamiento, y por eso sus respuestas pueden contener inexactitudes. Su recomendación es revisar manualmente toda la información antes de publicarla.
Un artículo de investigadores de OpenAI (Kalai, Nachum, Vempala y Zhang, septiembre de 2025) añade una explicación sobre por qué persiste: según su análisis, muchas evaluaciones de modelos miden solo el porcentaje de aciertos y no penalizan los errores confiados frente a decir "no lo sé". Es como un examen tipo test donde dejar en blanco da cero y adivinar da alguna posibilidad: el modelo, optimizado para esos exámenes, aprende a arriesgarse. Los autores proponen cambiar la puntuación para que los errores seguros cuesten más que la duda expresada.
Para ti, la consecuencia práctica es sencilla: un tono seguro no indica que la respuesta sea fiable.
Dónde es más probable que alucine
| Situación | Riesgo | Ejemplo |
|---|---|---|
| Datos muy concretos (cifras, fechas, números de artículo) | Alto | Un porcentaje exacto de un informe sectorial |
| Citas, referencias y jurisprudencia | Muy alto | Sentencias o artículos académicos con título creíble pero inexistente |
| Temas poco documentados o muy recientes | Alto | Una norma publicada hace semanas |
| Preguntas con premisa falsa | Medio-alto | "¿Qué dice el artículo X sobre Y?" cuando ese artículo no lo dice |
| Documentos largos sin guía | Medio | Resumen que añade un dato que no está en el texto |
| Imágenes de baja calidad | Medio | Transcripción de un documento escaneado borroso |
| Tareas con herramientas y fuentes conectadas | Menor, no cero | Respuesta que cita un enlace que no dice lo que afirma |
La documentación de Claude reconoce que puede cometer errores, e incluso alucinar, al interpretar imágenes de baja calidad, giradas o muy pequeñas: la visión no es una excepción (más sobre IA multimodal).
Dos casos reales que conviene conocer
Mata v. Avianca (2023): la jurisprudencia inventada
En 2023, unos abogados de Nueva York presentaron en un caso contra la aerolínea Avianca un escrito con sentencias que había generado ChatGPT y que no existían. El juez P. Kevin Castel, del Tribunal del Distrito Sur de Nueva York, les impuso una sanción de 5.000 dólares (junio de 2023). El caso es conocido sobre todo por la reacción: según el análisis del propio tribunal, el problema agravante fue que los letrados siguieron defendiendo esas citas después de que la otra parte y el juzgado las cuestionaran.
La lección para cualquier profesional: el error inicial se puede corregir; negarlo, no.
Moffatt contra Air Canada (2024): el chatbot que inventó una política
En febrero de 2024, el Tribunal de Resolución Civil de Columbia Británica (Canadá) resolvió que Air Canada era responsable de la información incorrecta que su chatbot dio a un pasajero sobre las tarifas por duelo. La aerolínea sostuvo, sin éxito, que el chatbot era una entidad separada; el tribunal lo consideró parte de su sitio web y la condenó por declaración negligente al pago de 812,02 dólares canadienses entre indemnización, intereses y costas. Es una resolución de un tribunal administrativo canadiense, no un precedente vinculante en España, pero ilustra una idea que cualquier empresa debería tener presente: lo que dice tu herramienta lo dices tú.
Cómo reducir las alucinaciones
La guía de Anthropic para reducir alucinaciones propone estrategias básicas aplicables a cualquier modelo:
- Dale permiso para decir que no sabe. Incluye una frase como "si no tienes información suficiente, responde 'No tengo información suficiente para valorarlo'". Reduce las respuestas inventadas.
- Pídele citas literales primero. En documentos largos, que extraiga las frases exactas relevantes y que base su análisis solo en ellas.
- Exige citas y retractación. Que, tras redactar, busque para cada afirmación una cita de apoyo y elimine las que no la tengan.
- Parte de documentos, no de memoria. Pega o adjunta el material en lugar de preguntar "de lo que sepas".
Ejemplo de prompt aplicado:
Con el informe adjunto, resume los tres hallazgos principales.
Usa solo información del informe. Para cada hallazgo, copia entre
comillas la frase del texto que lo respalda y el número de página.
Si algún dato que te pida no aparece en el informe, escribe
"no consta en el documento" en lugar de suponerlo.
Otras prácticas útiles:
- Usa herramientas con búsqueda y citas y abre los enlaces: que exista una cita no prueba que diga lo que se afirma (Perplexity y NotebookLM trabajan así).
- Divide la tarea. Un encargo de extracción es más fiable que uno de interpretación abierta.
- Pide una segunda lectura crítica: "revisa tu respuesta y señala las afirmaciones que no puedas respaldar". Ayuda, pero no sustituye la verificación humana, porque el modelo también puede equivocarse al revisarse.
- Escribe mejor el encargo. Muchas alucinaciones nacen de preguntas ambiguas o con premisas falsas (cómo escribir prompts).
Protocolo de verificación en cinco pasos
- Clasifica el riesgo. ¿Va a un cliente, a un informe, a una decisión? Cuanto más peso, más verificación.
- Marca lo verificable: cifras, nombres, fechas, citas, normas, enlaces.
- Comprueba contra la fuente primaria (la norma en el BOE, el informe original, la web oficial), no contra otra respuesta de IA.
- Registra qué verificaste. Una columna "fuente comprobada" evita dudas y te protege.
- Corrige en el prompt si el error era sistemático: añade el documento, cambia la pregunta, pide la cita.
Alucinaciones por profesión
- Finanzas. Un modelo puede explicar un desvío con una causa plausible que no sale de los datos. Verifica contra el libro mayor (IA para contables).
- Legal. Normas derogadas, artículos mal numerados y sentencias inexistentes. La revisión es obligatoria (revisar contratos con IA).
- Periodismo. Citas atribuidas a personas reales. Se contrasta con el original (IA para periodistas).
- Marketing. Estadísticas de mercado y datos de la competencia sin fuente (IA para copywriters).
- Audiovisual. Subtítulos y transcripciones con nombres propios y cifras erróneas (IA para editores de vídeo).
Errores comunes
- Pedirle fuentes sin comprobarlas. El modelo fabrica referencias con apariencia perfecta.
- Confiar más porque "ha razonado". Una explicación detallada puede ser igual de inventada.
- Preguntar lo mismo dos veces y creer que coincidir es verificar. Dos respuestas iguales pueden ser el mismo error.
- Pasarle un documento y asumir que solo lo usa. Puede mezclar su conocimiento general; exige citas literales.
- Culpar a la herramienta. La responsabilidad de lo que entregas es tuya, como muestran los dos casos anteriores.
Siguiente paso
Verificar es una habilidad profesional, no un trámite: se entrena con casos reales de tu sector. En el programa IA para Audiovisual trabajamos flujos con revisión en cada fase, y si quieres un mapa general para empezar, tienes la guía para aprender IA desde cero y el glosario.