¿Por qué ChatGPT inventa datos (alucinaciones) cuando busca en web?

Imagina la siguiente situación, que me reportó un colega analista la semana pasada: estaba preparando un informe sobre las nuevas regulaciones de criptomonedas en la Unión Europea para abril de 2026. Usó ChatGPT con navegación para asegurar datos en tiempo real. El modelo le citó una fecha límite para el cumplimiento del "Acta de Estabilidad Digital" que, tras una verificación cruzada manual, resultó ser dos meses posterior a lo estipulado en el boletín oficial. El enlace proporcionado por la IA ni siquiera existía; la URL estaba bien formada, pero apuntaba a un 404. La herramienta "buscó" en la web, leyó, y sin embargo, mintió.

Este fenómeno, conocido como alucinación, persiste incluso cuando dotamos a los grandes modelos de lenguaje (LLM) de acceso a internet en tiempo real mediante técnicas como Retrieval-Augmented Generation (RAG). La confusión del usuario es comprensible: si la máquina puede "leer" la respuesta en una fuente fiable, ¿por qué decide inventarla? La raíz del problema no está en la incapacidad de leer, sino en la naturaleza fundamental de cómo estos modelos procesan y generan lenguaje: no son bases de datos; son motores de probabilidad.

El núcleo estocástico frente a la realidad determinista

Para entender el fallo, debemos diseccionar qué hace un LLM cuando genera texto. En su interior, no hay un bibliotecario buscando un libro en un estante. Hay una calculadora gigantesca de probabilidades. Cuando el modelo recibe un prompt, calcula cuál es el siguiente "token" (fragmento de palabra) más probable basándose en los miles de millones de parámetros que absorbió durante su entrenamiento. Es un proceso estocástico; es decir, basado en la aleatoriedad controlada y la probabilidad estadística, no en la lógica binaria de verdadero o falso.

Cuando activamos la búsqueda en la web, inyectamos contexto externo en este flujo probabilístico. El modelo recibe fragmentos de texto relevantes del sitio web visitado. Sin embargo, su objetivo primario sigue siendo la completitud textual y la coherencia del discurso, no la fidelidad estricta a los hechos, a menos que se haya sometido a un entrenamiento extremadamente riguroso para evitar esto. El modelo "ve" los datos, pero a veces su propia red neuronal pondera más los patrones lingüísticos aprendidos durante el pre-entrenamiento que la información nueva y aislada que acaba de leer. Si la información recuperada contradice sutilmente un patrón fuerte en sus pesos internos, la probabilidad estadística puede inclinarse hacia el patrón conocido (la alucinación) en lugar del dato novedoso.

Este conflicto es inherente a la arquitectura Transformer. Mientras escribimos este análisis en 2026, aunque las ventanas de contexto han crecido exponencialmente, permitiendo memorizar libros enteros en una sesión, el mecanismo de atención sigue priorizando la fluidez narrativa. La IA prefiere una historia que suene plausible —una fecha que encaje en una cronología lógica, aunque sea falsa— antes que un dato discordante que rompa el ritmo de la generación.

RAG y el problema de la síntesis engañosa

La implementación de RAG (Retrieval-Augmented Generation) se presentó hace años como la solución definitiva para conectar la IA a internet. En teoría, el sistema recupera el documento, lo inyecta en el prompt y le dice al modelo: "Usa esta información para responder". En la práctica, el paso final es donde el sistema suele fallar estrepitosamente. El modelo no está "leyendo" para copiar; está "leyendo" para parafrasear y sintetizar.

Durante la síntesis, el LLM puede fusionar involuntariamente información de dos fuentes diferentes que recuperó en la misma búsqueda, creando un híbrido factual que no existe en la realidad. Por ejemplo, si en una búsqueda sobre "ciberataques a bancos en 2026" el modelo recupera un artículo sobre el Banco A y otro sobre el Banco B, puede afirmar con seguridad que "el Banco A sufrió un ataque usando el malware X", cuando el malware X fue el que afectó al Banco B. Esto no es mentira maliciosa; es un fallo de alineación en la recuperación de atributos. Los modelos de inteligencia artificial actuales todavía luchan por mantener estrictos los límites entre entidades distintas cuando realizan una síntesis de alto nivel.

Además, el modelo suele sufrir de lo que llamamos "ceguera de contexto". Si la respuesta exacta está enterrada en el párrafo quinto de un documento largo que el modelo apenas escaneó superficialmente debido a la limitación de tokens de atención, el modelo intentará "rellenar los huecos" basándose en su conocimiento general. Aquí es donde resurgen las alucinaciones: la confianza del modelo supera sus conocimientos reales del contexto específico recuperado. Por eso, herramientas como las que menciono en Construí un chatbot de atención al cliente con GPT-4 en un finde requieren filtros de validación estrictos antes de poner al modelo en producción; no se puede confiar en que la "búsqueda" solucione mágicamente el problema.

La presión de la "utilidad" y el sesgo de ayuda

Existe un factor a menudo ignorado que agrava este problema: el refuerzo humano. Durante las fases de ajuste (RLHF), los evaluadores humanos suelen penalizar al modelo si dice "no lo sé" o si se muestra demasiado reacio a responder cuando tiene información a mano. Preferimos un modelo que se arriesgue y nos dé una respuesta plausible antes que un modelo silencioso. Este proceso de entrenamiento, conocido como RLHF: El 'castigo' que hace que la IA no sea grosera, tiene efectos secundarios no deseados. Al castigar la negativa y premiar la utilidad, hemos entrenado a los modelos para que, ante la duda, prefieran generar una alucinación convincente antes que admitir ignorancia.

Cuando el modelo busca en la web y no encuentra una respuesta clara y concisa, su función de pérdida (loss function) interpreta que no satisfizo al usuario. Para minimizar este error, el modelo recurre a su creatividad probabilística para inventar un dato que cierre el ciclo de la conversación. Es un caso extremo de sesgo de confirmación por algoritmo: el modelo "quiere" darte una respuesta porque así fue programado para complacer, y la verdad fáctica es secundaria frente a la satisfacción del usuario en su función de recompensa interna.

Esto explica por qué, a veces, las respuestas con citas web son incluso más peligrosas que las sin ellas. La presencia de una cita le da al usuario una falsa sensación de seguridad. El modelo puede alucinar el contenido del resumen, pero adjuntar una URL real y correcta que apenas trató. El usuario verifica el dominio (que es legítimo) y asume que el contenido es veraz, sin leer el artículo original para percatarse de que la IA tergiversó por completo la conclusión del autor.

El futuro: separar al bibliotecario del escritor

La solución a este problema de ingeniería no vendrá de hacer los modelos más grandes, sino de cambiar el paradigma de interacción. A finales de 2026, estamos empezando a ver un desdoblamiento de roles en las arquitecturas de agentes avanzados. La tendencia actual es separar el proceso de recuperación (el "bibliotecario") del proceso de generación (el "escritor").

En lugar de pedirle a un solo cerebro probabilístico que lea, interprete y escriba, los sistemas emergentes utilizan scripts deterministas para extraer datos crudos —fechas, cifras, nombres— y almacenarlos en una estructura intermedia (como JSON) antes de que el LLM toque ni una sola coma para redactar el texto final. Esto evita que el modelo tenga que "adivinar" la cifra basándose en la probabilidad del texto; la cifra ya es un dato inmutable antes de comenzar la redacción.

Mientras tanto, el usuario debe operar bajo la premisa de la desconfianza sistemática. Una búsqueda en la web realizada por ChatGPT no es una investigación periodística; es una síntesis probabilística basada en evidencia parcial. La verdadera mitigación requiere que, ante cualquier dato crítico —una fecha, una cifra financiera, una normativa legal— el usuario inspeccione la fuente primaria. La IA es excelente para localizar la fuente, pero terrible para garantizar la transmisión fidedigna de su contenido sin contaminación estocástica.

El problema de las alucinaciones en la búsqueda web no es un bug de software que se parchea con una actualización; es una característica intrínseca de cómo estas máquinas "entienden" el lenguaje. Reconocer que la IA prioriza la coherencia de la historia sobre la riguros de los datos es el primer paso para utilizar estas herramientas sin exponer nuestra credibilidad profesional a errores factuales que, en un entorno profesional, pueden ser catastróficos.