Retrieval-augmented generation, spiegata
La RAG aiuta un'applicazione AI a rispondere da documenti selezionati invece di affidarsi solo ai pattern appresi durante l'addestramento del modello.
La retrieval-augmented generation, o RAG, cerca materiale rilevante in una fonte di conoscenza esterna e fornisce quel materiale a un modello AI prima che generi una risposta.
Il retrieval avviene prima della generation
Il processo inizia con una domanda. Un retriever cerca in una knowledge base e restituisce materiale correlato a quella domanda. L'applicazione aggiunge quel materiale al prompt del modello.
Il modello quindi scrive una risposta utilizzando la domanda e il contesto recuperato. Alcune applicazioni mostrano anche citazioni in modo che una persona possa ispezionare la fonte.
Fonti migliori non eliminano ogni errore
La RAG può portare policy attuali, guide interne o record specializzati in una risposta senza riaddestrare il modello. La sua qualità dipende ancora da ciò che la knowledge base contiene e da ciò che il retriever trova.
Il modello può interpretare male materiale utile o scrivere oltre di esso. Le risposte importanti richiedono ancora un controllo diretto rispetto alla fonte sottostante.
Termini RAG
- Knowledge base
- I documenti o record che il sistema può cercare per trovare informazioni rilevanti.
- Retriever
- La parte del sistema che trova materiale correlato alla richiesta.
- Grounding
- Fornire al modello materiale di origine che supporta la risposta che gli viene chiesto di produrre.
Cosa determina la qualità della risposta
Il materiale di origine
La knowledge base deve contenere informazioni accurate e aggiornate per la domanda.
La ricerca
Il retriever deve trovare i passaggi che effettivamente rispondono alla richiesta.
Il controllo finale
Una persona dovrebbe comunque verificare le affermazioni importanti confrontandole con la fonte citata.
Domande sulla retrieval-augmented generation
Fornisce a un modello informazioni esterne rilevanti al momento di una richiesta. Questo può supportare risposte su materiale attuale o specifico dell'organizzazione.
No. La RAG recupera informazioni per un prompt. L'addestramento o il fine-tuning modifica il modello stesso.
No. Può ridurre risposte non supportate fornendo materiale di origine, ma il retrieval e la risposta generata possono comunque essere sbagliati.
Termini correlati del glossario
Metti al lavoro la conoscenza della tua azienda
Le app Caffeine girano sull'Internet Computer, una rete pubblica pensata per questo.