Kontextfenster erklärt
Sie können es sich als den verfügbaren Arbeitsbereich des Modells vorstellen. Die aktuelle Anfrage teilt sich diesen Bereich mit anderen Anweisungen und Informationen, die von der Anwendung bereitgestellt werden.
Ein Kontextfenster ist die Textmenge, gemessen in Token, die ein Sprachmodell gleichzeitig berücksichtigen kann, wenn es eine Antwort erzeugt.
Mehr als die sichtbare Eingabe zählt
Ihre Nachricht nutzt einen Teil des Kontextfensters. Frühere Gespräche, System- anweisungen, hochgeladene Dokumente und abgerufene Textpassagen können den Rest nutzen.
Das Fenster wird in Token statt in Wörtern gemessen. Verschiedene Modelle können denselben Satz unterschiedlich in Token aufteilen, daher ist eine Wortzählung nur ein grober Anhaltspunkt.
Lange Eingaben erzwingen eine Entscheidung
Wenn das verfügbare Material die Begrenzung überschreitet, muss die Anwendung etwas entfernen oder zusammenfassen. Das kann dazu führen, dass ein älteres Detail für die nächste Antwort nicht mehr verfügbar ist.
Ein größeres Fenster kann mehr Material aufnehmen, aber Relevanz ist trotzdem wichtig. Eine fokussierte Menge aktueller Anweisungen und nützlicher Quelltexte ist einfacher zu überprüfen als ein Haufen unzusammenhängender Texte.
Begriffe zum Kontextfenster
- Token
- Eine Texteinheit, die ein Wort, ein Wortteil oder ein Satzzeichen sein kann.
- Kontextlänge
- Eine andere Bezeichnung für die maximale Textmenge, die ein Modell gleichzeitig berücksichtigen kann.
- Kürzung
- Das Entfernen eines Teils der Eingabe, damit das verbleibende Material in die Begrenzung passt.
Was den verfügbaren Platz nutzt
Ihre Anfrage
Die aktuelle Frage und alle Dokumente, die Sie bereitstellen, belegen Kontext.
Frühere Nachrichten
Der Gesprächsverlauf kann nur verfügbar bleiben, solange er hineinpasst.
Verborgene Anweisungen
Systemregeln und abgerufene Informationen können ebenfalls einen Teil des Fensters nutzen.
Fragen zu Kontextfenstern
Nicht genau. Es ist das Material, das für die aktuelle Antwort verfügbar ist. Eine Anwendung kann andere Informationen außerhalb des Fensters speichern und später hinzufügen.
Die Anwendung kann es aufteilen, zusammenfassen oder Teile davon entfernen, bevor sie Material an das Modell sendet.
Die frühere Nachricht passt möglicherweise nicht mehr in den aktiven Kontext, oder die Anwendung hat das Gespräch zusammengefasst und dieses Detail weggelassen.
Verwandte Glossarbegriffe
Geben Sie der KI den Kontext, der zählt
Caffeine-Apps laufen auf dem Internet Computer, einem dafür gebauten öffentlichen Netzwerk.