Le preguntas a un chatbot por tu política de devoluciones y responde con una que suena perfecta — pero que tu empresa nunca escribió. No mintió a propósito. Es que un modelo de lenguaje no sabe nada: predice la siguiente palabra más probable. Y lo probable no es lo mismo que lo cierto.
Esa distinción es la diferencia entre una demo que impresiona en una reunión y algo que puedes poner frente a un cliente sin cruzar los dedos.
Por qué inventa (y por qué suena tan seguro)
Un modelo como los de Anthropic u OpenAI aprendió patrones de miles de millones de textos. Cuando le preguntas algo, no consulta una base de datos: genera la respuesta que estadísticamente encaja. Si la respuesta correcta estaba en su entrenamiento, la acierta. Si no, la inventa con la misma seguridad — porque para el modelo, ambas son sólo secuencias probables de palabras.
El problema no es que se equivoque. Es que no tiene forma de saber que se equivocó, así que no te avisa.
Qué hace RAG diferente
RAG —Retrieval-Augmented Generation— cambia la pregunta. En vez de «¿qué es lo más probable?», le pregunta al modelo «¿qué dicen estos documentos?». Antes de responder, el sistema busca en tus fuentes —tus PDFs, tu manual, tu base de conocimiento— los fragmentos relevantes, y se los entrega al modelo junto con la pregunta.
El modelo ya no adivina desde su memoria: redacta a partir de lo que le pusiste enfrente. Y cada respuesta puede citar de dónde salió, para que cualquiera la abra y la verifique. Cuando la información no está, un RAG bien hecho lo dice — en vez de rellenar el hueco con algo plausible.
Por qué RAG no basta con «conectarlo y ya»
Aquí es donde la mayoría de los proyectos se caen. RAG no es un botón: es una tubería, y cada tramo puede romperla.
Si cortas los documentos en pedazos del tamaño equivocado, el fragmento correcto nunca llega. Si la búsqueda recupera diez párrafos parecidos pero ninguno con el dato, el modelo vuelve a inventar. Y si nadie mide qué tan seguido responde bien, no tienes un sistema: tienes una demo con suerte.
Lo que separa un RAG que funciona de uno que aparenta funcionar es lo aburrido: cómo partes los documentos, cómo recuperas, y una evaluación continua que te diga la verdad sobre qué tan seguido acierta.
La diferencia entre una demo y producción
Montar un chatbot que responde bonito en una prueba toma una tarde. Montar uno en el que confías para que hable con tus clientes toma diseñar el dato desde abajo, citar cada respuesta y medir sin piedad.
Esa es, más o menos, toda nuestra tesis: el dato y la IA van en el núcleo, no pegados encima al final. Un chatbot que inventa no es un problema de IA — es un problema de ingeniería de datos disfrazado.