¿Por qué la IA dice cosas falsas como si fueran ciertas?

Kohaku
KohakuA veces una IA responde con mucha seguridad sobre cosas que no son ciertas. ¿Por qué será?
La respuesta en 30 segundos
KohakuTodo tiene que ver con cómo predice la siguiente palabra y con cómo se califican las pruebas.

Un chatbot de IA arma el texto eligiendo las palabras que probablemente siguen, así que, aunque tenga pocas pistas sobre la respuesta, puede producir algo que suena bien. Además, OpenAI explica que en las pruebas que solo cuentan las respuestas correctas, decir “no lo sé” vale 0 puntos, así que adivinar parece mejor en la tabla de resultados y esa forma de responder tiende a quedarse.

Kohaku
KohakuAhora, veámoslo con más detalle.
Una carretera en un día caluroso cuyo final brilla como un charco: un espejismo
Un “espejismo” en la carretera en un día caluroso. Parece que hay agua, aunque en realidad no la hay.Foto: Michael from Calgary, AB, Canada / CC BY 2.0 / Wikimedia Commons

Los errores creíbles se llaman “alucinaciones”

La empresa de IA OpenAI llama “alucinación” al texto que una IA produce con seguridad, que suena creíble pero no es verdad. Por ejemplo, cuando le preguntaron a un chatbot muy usado el título de la tesis doctoral de un investigador, dio 3 títulos distintos y ninguno era correcto. Al preguntarle su cumpleaños, dio 3 fechas distintas, todas equivocadas.

Los datos poco comunes son los más fáciles de errar

El modelo base detrás de una IA primero practica predecir la siguiente palabra con enormes cantidades de texto (preentrenamiento). Ese texto no trae etiquetas de “verdadero” o “falso”. Las cosas que siguen un patrón fijo, como la ortografía o cerrar paréntesis, dejan de fallar a medida que avanza el entrenamiento. Pero los datos que aparecen muy poco y no se pueden predecir con un patrón, como el cumpleaños de una mascota, son mucho más fáciles de equivocar.

Figura: Lo que se corrige y lo que queda
Un mapa con caminos claros, otro donde tarjetas de palabras inventan un camino tras el corte, y dos exámenes comparados
  1. 1Una pregunta con muchas pistas (un mapa con caminos claros)
  2. 2Una pregunta con pocas pistas (un mapa cuyo camino se corta)
  3. 3Un camino que no debería existir, hecho con palabras que suenan bien
  4. 4Un examen donde dejar en blanco no puntúa, pero adivinar a veces sí

En los exámenes, adivinar parece mejor

OpenAI lo compara con un examen de opción múltiple. Si no sabes la respuesta, adivinar al azar quizá acierte, pero dejarla en blanco siempre vale cero. Si te preguntan un cumpleaños y dices “10 de septiembre”, tienes 1 probabilidad entre 365 de acertar. Como muchas evaluaciones solo comparan el porcentaje de aciertos, el modelo que adivina parece mejor. En una prueba de preguntas llamada SimpleQA, gpt-5-thinking-mini se abstuvo en el 52% de las preguntas, acertó el 22% y se equivocó el 26%. o4-mini se abstuvo solo el 1%; acertó un poco más, el 24%, pero se equivocó el 75%.

Figura: Abstenerse o adivinar
gpt-5-thinking-miniSe abstuvo52%Acierto22%Error26%o4-miniSe abstuvo1%Acierto24%Error75%

Según la explicación de OpenAI sobre la prueba SimpleQA.

Kohaku
KohakuEn blanco es cero, pero adivinando quizá se acierte. Parece que la IA también tiene sus problemas con los exámenes.

Cambiar la calificación y comprobar al usarla

Por eso OpenAI propone cambiar la forma de calificar: quitar más puntos por los errores dichos con seguridad que por un “no lo sé”, y dar puntos parciales a las respuestas que dicen no estar seguras. Una guía del Instituto Tecnológico de Massachusetts (MIT) también explica que la IA generativa funciona como un autocompletado avanzado, hecho para producir texto creíble, no para comprobar si es verdad. Para cualquier cosa importante, comprueben siempre preguntando a un experto o comparando con fuentes como artículos de investigación.

¿Quiere saber más?

  • Una investigación de Anthropic encontró que, dentro de su IA Claude, una vía que responde “no tengo suficiente información para responder” está encendida por defecto, y se frena cuando la pregunta trata de un nombre muy conocido.
  • OpenAI explica que un modelo pequeño que no aprendió nada de maorí puede simplemente decir “no lo sé” ante una pregunta en maorí, mientras que un modelo que sabe un poco tiene que calcular qué tan seguro está.
  • Según la guía del MIT, poner baja la “temperatura” (el ajuste que controla qué tan variadas son las respuestas), entre 0 y 0,3, suele dar respuestas más enfocadas y basadas en hechos.
Kohaku
KohakuCuanto más convincente suena una frase, más vale detenerse a comprobarla. Ese es el secreto para llevarse bien con la IA.

Prueba rápida: póngase a prueba

Kohaku¿Recuerdas lo que acabas de leer? ¡Inténtalo!

¿Por qué los modelos de IA aprenden a adivinar?

Mostrar la respuesta
  1. Los hicieron para engañar
  2. Las pruebas solo cuentan aciertos
  3. Todo en internet está mal

Las pruebas solo cuentan aciertos Cuando solo cuentan los aciertos, “no lo sé” vale cero. Adivinar parece mejor en los resultados, así que esa forma de responder tiende a quedarse.

Fuentes
  1. Why language models hallucinateOpenAI
  2. When AI Gets It Wrong: Addressing AI Hallucinations and BiasMIT Sloan Teaching & Learning Technologies
  3. Tracing the thoughts of a large language modelAnthropic

Este artículo fue escrito después de verificar las fuentes anteriores al 2026-10-03. Las explicaciones pueden cambiar a medida que avanza la investigación. Los créditos de las fotos se muestran debajo de cada foto.

Siguiente dato curioso ▶

Tecnología¿Cómo eligen las apps de video lo que te recomiendan?Al abrir una app de video, está llena de videos que quieres ver. ¿Cómo se eligen?