Inteligencia artificial
Chatbots con IA que responden con tus datos
Un chatbot con IA es un asistente que conversa en lenguaje natural usando un modelo de lenguaje (LLM). Cuando se construye con RAG —Retrieval-Augmented Generation—, antes de responder busca en los documentos de la empresa y redacta a partir de ellos, citando de dónde salió cada dato. Esa diferencia es la que separa un chatbot que informa de uno que inventa.
Casi todos los chatbots que fallan no fallan por el modelo: fallan porque nadie diseñó de dónde sacan la respuesta.
Por qué un chatbot sin tus datos inventa
Un modelo de lenguaje no consulta: predice. Aprendió patrones de miles de millones de textos y, cuando le preguntas algo, genera la secuencia de palabras que estadísticamente encaja. Si la respuesta correcta estaba en su entrenamiento, acierta. Si no estaba, la inventa con exactamente la misma seguridad.
El problema no es que se equivoque. Es que no tiene forma de saber que se equivocó, así que no te avisa — y quien lee tampoco puede distinguirlo.
Qué cambia RAG, en concreto
RAG cambia la pregunta. En vez de «¿qué es lo más probable?», el sistema pregunta «¿qué dicen estos documentos?». Antes de responder busca en tus fuentes —manuales, PDFs, tu base de conocimiento, tu catálogo— los fragmentos que vienen al caso, y se los entrega al modelo junto con la pregunta.
El modelo deja de redactar desde su memoria y pasa a redactar desde lo que le pusiste enfrente. Cada respuesta puede citar su fuente para que cualquiera la abra y la verifique. Y cuando el dato no está, un RAG bien hecho lo dice, en vez de rellenar el hueco con algo plausible.
Dónde vive el chatbot
En el canal donde ya está tu gente, no en uno nuevo que haya que enseñarles a usar. WhatsApp es el caso más común en Colombia porque es donde ya ocurre la conversación con el cliente; también Telegram, Slack o el sitio web.
El canal cambia la forma de la respuesta, no la ingeniería: el mismo sistema de recuperación responde en todos, y por eso conviene decidir el canal por dónde está tu gente y no por dónde es más fácil montar una demo.
Lo que decide si funciona es lo aburrido
RAG no es un botón, es una tubería, y cada tramo puede romperla. Si cortas los documentos en pedazos del tamaño equivocado, el fragmento correcto nunca llega. Si la búsqueda recupera diez párrafos parecidos pero ninguno con el dato, el modelo vuelve a inventar.
Y si nadie mide qué tan seguido responde bien, no tienes un sistema: tienes una demo con suerte. Por eso cada proyecto lleva evaluación continua desde el principio — un modelo sin medición es una demo, por bien que hable.
Modelos de frontera o modelos abiertos
Se puede construir sobre modelos de frontera (Anthropic, OpenAI) o sobre modelos abiertos afinados y corriendo en tu propia infraestructura. La decisión no es de moda: depende de cuánto puede costar cada consulta y de qué tan sensibles son los datos que van a pasar por ahí.
Si tus documentos no pueden salir de tu red, esa restricción decide la arquitectura completa — y conviene saberlo antes de construir, no después.
Preguntas
Lo que suelen preguntarnos
- ¿Qué es RAG y en qué se diferencia de un chatbot normal?
- RAG (Retrieval-Augmented Generation) es una técnica en la que el sistema busca información en tus documentos antes de responder, y el modelo redacta a partir de esos fragmentos. Un chatbot normal responde desde lo que el modelo memorizó al entrenarse; uno con RAG responde desde tus fuentes y puede citarlas.
- ¿Puede un chatbot con IA responder con los documentos internos de mi empresa?
- Sí, y es justamente para lo que sirve RAG. El chatbot no se entrena con tus documentos: los consulta en el momento de responder. Eso permite actualizar la información cambiando el documento, sin reentrenar nada.
- ¿Se puede conectar a WhatsApp?
- Sí. WhatsApp es el canal más pedido en Colombia porque es donde ya ocurre la conversación con el cliente. También funciona en Telegram, Slack o integrado en el sitio web.
- ¿Mis datos salen de mi empresa?
- Depende de la arquitectura que se elija, y es una decisión que se toma antes de construir. Con modelos de frontera, las consultas viajan al proveedor. Con modelos abiertos corriendo en tu propia infraestructura, no salen de tu red. Si tus datos son sensibles, esa restricción define el diseño completo.
- ¿Cómo sé si el chatbot está respondiendo bien?
- Con evaluación continua. Se arma un conjunto de preguntas con sus respuestas correctas y se mide contra él de forma sistemática, para tener un número en vez de una impresión. Sin esa medición no hay manera de saber si funciona ni de detectar cuándo empeora.
¿No sabes cuál necesitas?
Si no estás seguro, para eso es el diagnóstico: lo miramos contigo y te decimos qué hace falta — incluso si es menos de lo que creías.