Retrieval-augmented generation, dijelaskan
RAG membantu aplikasi AI menjawab dari dokumen terpilih alih-alih hanya mengandalkan pola yang dipelajari selama pelatihan model.
Retrieval-augmented generation, atau RAG, mencari sumber pengetahuan eksternal untuk materi relevan dan memberikan materi tersebut kepada model AI sebelum menghasilkan jawaban.
Retrieval terjadi sebelum generation
Prosesnya dimulai dengan pertanyaan. Retriever mencari knowledge base dan mengembalikan materi terkait dengan pertanyaan tersebut. Aplikasi menambahkan materi tersebut ke prompt model.
Model kemudian menulis jawaban menggunakan pertanyaan dan konteks yang diambil. Beberapa aplikasi juga menampilkan kutipan sehingga seseorang dapat memeriksa sumbernya.
Sumber yang lebih baik tidak menghilangkan semua kesalahan
RAG dapat membawa kebijakan terkini, panduan internal, atau catatan khusus ke dalam jawaban tanpa melatih ulang model. Kualitasnya tetap bergantung pada apa yang terkandung dalam knowledge base dan apa yang ditemukan retriever.
Model dapat salah membaca materi yang berguna atau menulis melampaui itu. Jawaban penting tetap memerlukan pemeriksaan langsung terhadap sumber yang mendasarinya.
Istilah RAG
- Knowledge base
- Dokumen atau catatan yang dapat dicari sistem untuk informasi relevan.
- Retriever
- Bagian dari sistem yang menemukan materi terkait dengan permintaan.
- Grounding
- Memberikan model materi sumber yang mendukung jawaban yang diminta untuk dihasilkan.
Apa yang menentukan kualitas jawaban
Materi sumber
Knowledge base harus berisi informasi akurat dan terkini untuk pertanyaan tersebut.
Pencarian
Retriever harus menemukan bagian yang benar-benar menjawab permintaan.
Pemeriksaan akhir
Seseorang tetap harus memverifikasi klaim penting terhadap sumber yang dikutip.
Pertanyaan tentang retrieval-augmented generation
RAG memberikan model informasi eksternal yang relevan pada saat permintaan. Ini dapat mendukung jawaban tentang materi terkini atau spesifik organisasi.
Tidak. RAG mengambil informasi untuk prompt. Pelatihan atau fine-tuning mengubah model itu sendiri.
Tidak. RAG dapat mengurangi jawaban yang tidak didukung dengan menyediakan materi sumber, tetapi retrieval dan respons yang dihasilkan masih bisa salah.
Istilah glosarium terkait
Manfaatkan pengetahuan bisnis Anda
Aplikasi Caffeine berjalan di Internet Computer, jaringan publik yang dibangun untuk ini.