¿Qué es RAG (Retrieval-Augmented Generation)?
Técnica que combina búsqueda en documentos propios con generación del LLM, permitiendo respuestas basadas en tu data sin reentrenar el modelo.
RAG resuelve el problema de que los LLMs no conocen tu información privada: primero busca los fragmentos de texto más relevantes en tu base de datos (usualmente vectorial), y luego se los pasa al LLM como contexto junto a la pregunta.
El pipeline típico es: dividir documentos en fragmentos → convertirlos en embeddings → guardarlos en una base vectorial → en cada consulta, recuperar los fragmentos más relevantes → generar la respuesta con ese contexto.
Funciona en dos fases. Primero se preparan los documentos: se dividen en trozos y se guarda el embedding de cada uno. Después, en cada pregunta, se buscan los trozos más parecidos y se le pasan al modelo junto con la pregunta para que responda con esa información.
La calidad depende sobre todo de la búsqueda: si recupera el trozo equivocado, la respuesta será buena sobre lo equivocado. Por eso importan el troceado, la búsqueda híbrida (significado y palabras clave) y medir con preguntas reales.
Ejemplo
Un chatbot de soporte que responde citando tu documentación real, en vez de inventar una respuesta genérica.
Preguntas frecuentes
¿RAG o fine-tuning?
RAG para darle al modelo información nueva o privada que cambia. Fine-tuning para cambiar estilo, formato o un comportamiento específico.
¿RAG evita las alucinaciones?
Las reduce cuando recupera la información correcta, pero no las elimina. Conviene pedir que cite fuentes y que diga «no lo sé» si no encuentra nada.
Términos relacionados
Siguiente paso: curso de bases de datos y backend.