검색 증강 생성 설명

RAG는 AI 애플리케이션이 모델 훈련 중에 학습한 패턴에만 의존하는 대신 선택된 문서에서 답변하도록 돕습니다.

검색 증강 생성(RAG)은 외부 지식 소스에서 관련 자료를 검색하고 AI 모델이 답변을 생성하기 전에 해당 자료를 제공합니다.

검색은 생성 전에 발생합니다

프로세스는 질문으로 시작됩니다. 검색기가 지식 베이스를 검색하고 해당 질문과 관련된 자료를 반환합니다. 애플리케이션은 해당 자료를 모델의 프롬프트에 추가합니다.

그런 다음 모델은 질문과 검색된 컨텍스트를 사용하여 답변을 작성합니다. 일부 애플리케이션은 사람이 소스를 검사할 수 있도록 인용도 표시합니다.

RAG는 모델을 재훈련하지 않고도 현재 정책, 내부 가이드 또는 전문 레코드를 답변에 포함할 수 있습니다. 그러나 품질은 여전히 지식 베이스에 포함된 내용과 검색기가 찾는 내용에 따라 달라집니다.

모델은 유용한 자료를 잘못 읽거나 그 범위를 벗어나 작성할 수 있습니다. 중요한 답변은 여전히 기본 소스와 직접 대조하여 확인해야 합니다.

지식 베이스는 질문에 대한 정확하고 최신의 정보를 포함해야 합니다.

검색기는 실제로 요청을 다루는 구절을 찾아야 합니다.

중요한 주장은 여전히 인용된 소스와 대조하여 사람이 검증해야 합니다.

요청 시점에 모델에 관련 외부 정보를 제공합니다. 이는 현재 또는 조직별 자료에 대한 답변을 지원할 수 있습니다.

아니요. RAG는 프롬프트를 위한 정보를 검색합니다. 훈련 또는 파인튜닝은 모델 자체를 변경합니다.

아니요. 소스 자료를 제공하여 근거 없는 답변을 줄일 수 있지만, 검색과 생성된 응답은 여전히 잘못될 수 있습니다.

Caffeine 앱은 이를 위해 만들어진 퍼블릭 네트워크인 Internet Computer 위에서 실행됩니다.