コンテキストウィンドウの解説

これはモデルの利用可能な作業スペースと考えることができます。現在のリクエストは、アプリケーションによって提供される他の指示や情報とそのスペースを共有します。

コンテキストウィンドウとは、言語モデルが応答を生成する際に一度に考慮できるテキストの量で、トークンで測定されます。

表示されるプロンプト以上のものがカウントされる

あなたのメッセージはコンテキストウィンドウの一部を使用します。以前の会話、システム指示、アップロードされたドキュメント、取得された文章が残りを使用する可能性があります。

ウィンドウは単語ではなくトークンで測定されます。異なるモデルは同じ文を異なる方法でトークンに分割する可能性があるため、単語数は大まかな目安にすぎません。

利用可能な素材が制限を超えると、アプリケーションは何かを削除または要約する必要があります。これにより、古い詳細が次の応答で利用できなくなる可能性があります。

より大きなウィンドウはより多くの素材を保持できますが、関連性は依然として重要です。現在の指示と有用なソース文章の焦点を絞ったセットは、無関係なテキストの山よりも検査しやすいです。

現在の質問と提供するドキュメントがコンテキストを占有します。

会話履歴は収まる範囲でのみ利用可能です。

システムルールと取得された情報もウィンドウの一部を使用する可能性があります。

正確には違います。これは現在の応答に利用可能な素材です。アプリケーションはウィンドウの外に他の情報を保存し、後で追加する可能性があります。

アプリケーションは、モデルに素材を送信する前に、それを分割、要約、または一部を削除する可能性があります。

以前のメッセージがアクティブなコンテキストに収まらなくなったか、アプリケーションが会話を要約してその詳細を省略した可能性があります。

CaffeineのアプリはInternet Computer上で動きます。そのために作られたパブリックネットワークです。