อธิบาย Tool calling

Tool calling เรียกอีกอย่างว่า function calling หรือ tool use มันเชื่อมโยงการตอบสนองภาษาของโมเดลกับวิธีการที่กำหนดไว้ในการอ่านข้อมูลหรือขอการกระทำ

Tool calling ช่วยให้โมเดล AI ส่งคืนคำขอที่มีโครงสร้างสำหรับฟังก์ชันภายนอก ซึ่งแอปพลิเคชันรอบข้างสามารถรันและรายงานกลับไปยังโมเดลได้

โมเดลเสนอการเรียก

แอปพลิเคชันให้คำอธิบายเครื่องมือที่พร้อมใช้งานแก่โมเดล เมื่อคำขอต้องการเครื่องมือหนึ่ง โมเดลสามารถส่งคืนชื่อเครื่องมือและข้อมูลนำเข้าที่เสนอในรูปแบบที่มีโครงสร้าง

โมเดลไม่ได้รันฟังก์ชันเอง แอปพลิเคชันรับคำขอ ตรวจสอบ และตัดสินใจว่าจะดำเนินการเครื่องมือหรือไม่

ผลลัพธ์กลับมาเป็นบริบท

หลังจากเครื่องมือรัน แอปพลิเคชันส่งผลลัพธ์กลับไปยังโมเดล จากนั้นโมเดลสามารถใช้ข้อมูลนั้นเพื่อตอบคำขอเดิมหรือเลือกขั้นตอนที่อนุญาตอื่น

การแยกนี้สร้างจุดควบคุม แอปพลิเคชันสามารถปฏิเสธข้อมูลนำเข้าที่ไม่ถูกต้อง จำกัดสิทธิ์ หรือขอให้บุคคลอนุมัติการกระทำที่สำคัญ

คำศัพท์เกี่ยวกับ tool calling

Tool definition: คำอธิบายของฟังก์ชันที่พร้อมใช้งาน รวมถึงวัตถุประสงค์และข้อมูลนำเข้าที่คาดหวัง
Tool call: ข้อมูลที่มีโครงสร้างซึ่งระบุชื่อเครื่องมือและจัดหาข้อมูลนำเข้าสำหรับการใช้งานที่ขอ
Tool result: ข้อมูลที่ส่งกลับไปยังโมเดลหลังจากแอปพลิเคชันรันเครื่องมือแล้ว

การควบคุมรอบเครื่องมือ

กำหนดวัตถุประสงค์เดียว

เครื่องมือที่มีขอบเขตแคบจะเข้าใจ จำกัด และทดสอบได้ง่ายกว่า

ตรวจสอบข้อมูลนำเข้า

แอปพลิเคชันควรตรวจสอบความถูกต้องของการเรียกที่เสนอก่อนรัน

ปกป้องการกระทำที่สำคัญ

ต้องมีการอนุมัติเมื่อเครื่องมือสามารถเปลี่ยนแปลงเงิน สิทธิ์การเข้าถึง หรือบันทึกที่ละเอียดอ่อน

คำถามเกี่ยวกับ tool calling

Tool call คือคำขอที่มีโครงสร้างของโมเดล แอปพลิเคชันอาจใช้ API call หรือวิธีการอื่นเพื่อทำฟังก์ชันที่ขอ

ไม่ได้ มันสามารถขอเฉพาะเครื่องมือที่แอปพลิเคชันได้อธิบายและทำให้พร้อมใช้งานเท่านั้น แอปพลิเคชันยังคงควบคุมการดำเนินการและการเข้าถึง

ผลลัพธ์ให้ข้อมูลปัจจุบันหรือยืนยันสิ่งที่เกิดขึ้นแก่โมเดล มันสามารถใช้บริบทนั้นเพื่อทำการตอบสนองให้สมบูรณ์

คำศัพท์ที่เกี่ยวข้อง

เชื่อมโยงแต่ละการกระทำกับกฎที่ชัดเจน

แอป Caffeine รันบน Internet Computer เครือข่ายสาธารณะที่สร้างมาเพื่อสิ่งนี้โดยเฉพาะ