La génération augmentée par récupération, expliquée
Le RAG aide une application d'IA à répondre à partir de documents sélectionnés au lieu de s'appuyer uniquement sur les modèles appris pendant l'entraînement du modèle.
La génération augmentée par récupération, ou RAG, recherche du matériel pertinent dans une source de connaissances externe et fournit ce matériel à un modèle d'IA avant qu'il ne génère une réponse.
La récupération précède la génération
Le processus commence par une question. Un récupérateur recherche dans une base de connaissances et renvoie du matériel lié à cette question. L'application ajoute ce matériel à l'invite du modèle.
Le modèle rédige ensuite une réponse en utilisant la question et le contexte récupéré. Certaines applications affichent également des citations pour qu'une personne puisse inspecter la source.
De meilleures sources n'éliminent pas toutes les erreurs
Le RAG peut intégrer des politiques actuelles, des guides internes ou des enregistrements spécialisés dans une réponse sans réentraîner le modèle. Sa qualité dépend toujours de ce que contient la base de connaissances et de ce que trouve le récupérateur.
Le modèle peut mal interpréter du matériel utile ou écrire au-delà de celui-ci. Les réponses importantes nécessitent toujours une vérification directe par rapport à la source sous-jacente.
Termes du RAG
- Base de connaissances
- Les documents ou enregistrements dans lesquels le système peut rechercher des informations pertinentes.
- Récupérateur
- La partie du système qui trouve le matériel lié à la demande.
- Ancrage
- Fournir au modèle du matériel source qui soutient la réponse qu'il doit produire.
Ce qui détermine la qualité de la réponse
Le matériel source
La base de connaissances doit contenir des informations exactes et à jour pour la question.
La recherche
Le récupérateur doit trouver les passages qui répondent réellement à la demande.
La vérification finale
Une personne doit toujours vérifier les affirmations importantes par rapport à la source citée.
Questions sur la génération augmentée par récupération
Il fournit au modèle des informations externes pertinentes au moment d'une demande. Cela peut soutenir des réponses sur du matériel actuel ou spécifique à l'organisation.
Non. Le RAG récupère des informations pour une invite. L'entraînement ou l'ajustement fin modifie le modèle lui-même.
Non. Il peut réduire les réponses non étayées en fournissant du matériel source, mais la récupération et la réponse générée peuvent toujours être erronées.
Termes du glossaire associés
Mettez les connaissances de votre entreprise au travail
Les apps Caffeine tournent sur l'Internet Computer, un réseau public conçu pour ça.