検索拡張生成の解説

RAGは、モデルの訓練中に学習したパターンのみに依存するのではなく、選択された文書から回答するのに役立ちます。

検索拡張生成(RAG)は、外部の知識ソースから関連資料を検索し、AIモデルが回答を生成する前にその資料を提供します。

検索は生成の前に行われる

プロセスは質問から始まります。レトリーバーがナレッジベースを検索し、その質問に関連する資料を返します。アプリケーションはその資料をモデルのプロンプトに追加します。

モデルは質問と検索されたコンテキストを使用して回答を生成します。一部のアプリケーションは引用元も表示するため、人がソースを確認できます。

より良いソースでもすべてのエラーは除去できない

RAGは、モデルを再訓練することなく、最新のポリシー、内部ガイド、または専門的な記録を回答に取り込むことができます。その品質は、ナレッジベースに含まれる内容とレトリーバーが見つける内容に依存します。

モデルは有用な資料を誤読したり、それを超えて生成したりする可能性があります。重要な回答には、依然として元のソースとの直接的な確認が必要です。

RAG用語

ナレッジベース
システムが関連情報を検索できる文書または記録。
レトリーバー
リクエストに関連する資料を検索するシステムの部分。
グラウンディング
モデルが生成する回答を裏付けるソース資料を提供すること。

回答品質を決定する要素

ソース資料

ナレッジベースには質問に対する正確で最新の情報が含まれている必要があります。

検索

レトリーバーはリクエストに実際に対応する箇所を見つける必要があります。

最終確認

重要な主張については、引用元のソースと照らし合わせて人が検証する必要があります。

検索拡張生成に関する質問

リクエスト時にモデルに関連する外部情報を提供します。これにより、最新または組織固有の資料に関する回答をサポートできます。

いいえ。RAGはプロンプトのための情報を検索します。訓練やファインチューニングはモデル自体を変更します。

いいえ。ソース資料を提供することで裏付けのない回答を減らすことはできますが、検索と生成された応答は依然として誤っている可能性があります。

ビジネス知識を活用する

CaffeineのアプリはInternet Computer上で動きます。そのために作られたパブリックネットワークです。