컨텍스트 윈도우 설명

모델의 사용 가능한 작업 공간으로 생각할 수 있습니다. 현재 요청은 애플리케이션이 제공하는 다른 지침 및 정보와 해당 공간을 공유합니다.

컨텍스트 윈도우는 언어 모델이 응답을 생성할 때 한 번에 고려할 수 있는 토큰으로 측정된 텍스트의 양입니다.

보이는 프롬프트 이상이 계산됩니다

사용자의 메시지는 컨텍스트 윈도우의 일부를 사용합니다. 이전 대화, 시스템 지침, 업로드된 문서 및 검색된 구절이 나머지를 사용할 수 있습니다.

윈도우는 단어가 아닌 토큰으로 측정됩니다. 다른 모델은 동일한 문장을 다르게 토큰으로 분할할 수 있으므로 단어 수는 대략적인 가이드일 뿐입니다.

사용 가능한 자료가 제한을 초과하면 애플리케이션은 무언가를 제거하거나 요약해야 합니다. 이로 인해 이전 세부 정보가 다음 응답에 사용할 수 없게 될 수 있습니다.

더 큰 윈도우는 더 많은 자료를 담을 수 있지만 관련성은 여전히 중요합니다. 현재 지침과 유용한 소스 구절의 집중된 세트가 관련 없는 텍스트 더미보다 검토하기 쉽습니다.

현재 질문과 제공하는 문서가 컨텍스트를 차지합니다.

대화 기록은 맞는 동안에만 사용 가능한 상태로 유지될 수 있습니다.

시스템 규칙과 검색된 정보도 윈도우의 일부를 사용할 수 있습니다.

정확히는 아닙니다. 현재 응답에 사용 가능한 자료입니다. 애플리케이션은 윈도우 외부에 다른 정보를 저장하고 나중에 추가할 수 있습니다.

애플리케이션은 모델에 자료를 보내기 전에 문서의 일부를 분할, 요약 또는 제거할 수 있습니다.

이전 메시지가 더 이상 활성 컨텍스트에 맞지 않거나 애플리케이션이 대화를 요약하고 해당 세부 정보를 생략했을 수 있습니다.

Caffeine 앱은 이를 위해 만들어진 퍼블릭 네트워크인 Internet Computer 위에서 실행됩니다.