Generación aumentada por recuperación, explicada
RAG ayuda a una aplicación de IA a responder desde documentos seleccionados en lugar de depender únicamente de patrones aprendidos durante el entrenamiento del modelo.
La generación aumentada por recuperación, o RAG, busca en una fuente de conocimiento externa material relevante y proporciona ese material a un modelo de IA antes de que genere una respuesta.
La recuperación ocurre antes de la generación
El proceso comienza con una pregunta. Un recuperador busca en una base de conocimiento y devuelve material relacionado con esa pregunta. La aplicación añade ese material al prompt del modelo.
El modelo entonces escribe una respuesta usando la pregunta y el contexto recuperado. Algunas aplicaciones también muestran citas para que una persona pueda inspeccionar la fuente.
Mejores fuentes no eliminan todos los errores
RAG puede incorporar políticas actuales, guías internas o registros especializados en una respuesta sin reentrenar el modelo. Su calidad aún depende de lo que contiene la base de conocimiento y de lo que encuentra el recuperador.
El modelo puede malinterpretar material útil o escribir más allá de él. Las respuestas importantes aún necesitan una verificación directa contra la fuente subyacente.
Términos de RAG
- Base de conocimiento
- Los documentos o registros que el sistema puede buscar para encontrar información relevante.
- Recuperador
- La parte del sistema que encuentra material relacionado con la solicitud.
- Fundamentación
- Proporcionar al modelo material fuente que respalde la respuesta que se le pide producir.
Qué determina la calidad de la respuesta
El material fuente
La base de conocimiento debe contener información precisa y actualizada para la pregunta.
La búsqueda
El recuperador debe encontrar los pasajes que realmente aborden la solicitud.
La verificación final
Una persona aún debe verificar las afirmaciones importantes contra la fuente citada.
Preguntas sobre la generación aumentada por recuperación
Proporciona al modelo información externa relevante en el momento de una solicitud. Esto puede respaldar respuestas sobre material actual o específico de la organización.
No. RAG recupera información para un prompt. El entrenamiento o ajuste fino cambia el modelo mismo.
No. Puede reducir respuestas sin fundamento al proporcionar material fuente, pero la recuperación y la respuesta generada aún pueden ser incorrectas.
Términos relacionados del glosario
Pon a trabajar el conocimiento de tu empresa
Las apps de Caffeine corren en Internet Computer, una red pública creada para esto.