Geração aumentada por recuperação, explicada

RAG ajuda uma aplicação de IA a responder a partir de documentos selecionados em vez de depender apenas de padrões aprendidos durante o treinamento do modelo.

A geração aumentada por recuperação, ou RAG, pesquisa uma fonte de conhecimento externa por material relevante e fornece esse material a um modelo de IA antes que ele gere uma resposta.

A recuperação acontece antes da geração

O processo começa com uma pergunta. Um recuperador pesquisa uma base de conhecimento e retorna material relacionado a essa pergunta. A aplicação adiciona esse material ao prompt do modelo.

O modelo então escreve uma resposta usando a pergunta e o contexto recuperado. Algumas aplicações também mostram citações para que uma pessoa possa inspecionar a fonte.

Melhores fontes não eliminam todos os erros

RAG pode trazer políticas atuais, guias internos ou registros especializados para uma resposta sem retreinar o modelo. Sua qualidade ainda depende do que a base de conhecimento contém e do que o recuperador encontra.

O modelo pode interpretar mal material útil ou escrever além dele. Respostas importantes ainda precisam de uma verificação direta contra a fonte subjacente.

Termos de RAG

Base de conhecimento
Os documentos ou registros que o sistema pode pesquisar para encontrar informações relevantes.
Recuperador
A parte do sistema que encontra material relacionado à solicitação.
Fundamentação
Fornecer ao modelo material de origem que sustenta a resposta que ele deve produzir.

O que determina a qualidade da resposta

O material de origem

A base de conhecimento deve conter informações precisas e atualizadas para a pergunta.

A busca

O recuperador deve encontrar as passagens que realmente abordam a solicitação.

A verificação final

Uma pessoa ainda deve verificar afirmações importantes contra a fonte citada.

Perguntas sobre geração aumentada por recuperação

Ele fornece ao modelo informações externas relevantes no momento de uma solicitação. Isso pode apoiar respostas sobre material atual ou específico da organização.

Não. RAG recupera informações para um prompt. Treinamento ou ajuste fino altera o próprio modelo.

Não. Ele pode reduzir respostas sem fundamento ao fornecer material de origem, mas a recuperação e a resposta gerada ainda podem estar erradas.

Coloque o conhecimento da sua empresa para trabalhar

Os apps do Caffeine rodam no Internet Computer, uma rede pública feita para isso.