Tool calling, dijelaskan
Tool calling juga disebut function calling atau tool use. Ini menghubungkan respons bahasa model dengan cara yang telah ditentukan untuk membaca informasi atau meminta tindakan.
Tool calling memungkinkan model AI mengembalikan permintaan terstruktur untuk fungsi eksternal, yang dapat dijalankan oleh aplikasi di sekitarnya dan melaporkan hasilnya kembali ke model.
Model mengusulkan pemanggilan
Aplikasi memberikan deskripsi tool yang tersedia kepada model. Ketika permintaan memerlukan satu tool, model dapat mengembalikan nama tool dan input yang diusulkan dalam format terstruktur.
Model tidak menjalankan fungsi itu sendiri. Aplikasi menerima permintaan, memeriksanya, dan memutuskan apakah akan menjalankan tool tersebut.
Hasil dikembalikan sebagai konteks
Setelah tool berjalan, aplikasi mengirimkan hasilnya kembali ke model. Model kemudian dapat menggunakan informasi tersebut untuk menjawab permintaan awal atau memilih langkah lain yang diizinkan.
Pemisahan ini menciptakan titik kontrol. Aplikasi dapat menolak input yang tidak valid, membatasi izin, atau meminta seseorang untuk menyetujui tindakan penting.
Istilah tool calling
- Definisi tool
- Deskripsi fungsi yang tersedia, termasuk tujuan dan input yang diharapkan.
- Pemanggilan tool
- Data terstruktur yang menyebutkan nama tool dan menyediakan input untuk satu permintaan penggunaan.
- Hasil tool
- Informasi yang dikembalikan ke model setelah aplikasi menjalankan tool.
Kontrol di sekitar tool
Tentukan satu tujuan
Tool yang sempit lebih mudah dipahami, dibatasi, dan diuji.
Periksa input
Aplikasi harus memvalidasi pemanggilan yang diusulkan sebelum menjalankannya.
Lindungi tindakan penting
Memerlukan persetujuan ketika tool dapat mengubah uang, akses, atau catatan sensitif.
Pertanyaan tentang tool calling
Tool call adalah permintaan terstruktur dari model. Aplikasi dapat menggunakan API call atau metode lain untuk melakukan fungsi yang diminta.
Tidak. Model hanya dapat meminta tool yang telah dideskripsikan dan disediakan oleh aplikasi. Aplikasi tetap mengontrol eksekusi dan akses.
Hasil memberikan informasi terkini kepada model atau mengonfirmasi apa yang terjadi. Model dapat menggunakan konteks tersebut untuk menyelesaikan responsnya.
Istilah glosarium terkait
Hubungkan setiap tindakan dengan aturan yang jelas
Aplikasi Caffeine berjalan di Internet Computer, jaringan publik yang dibangun untuk ini.