Tool calling, spiegato
Il tool calling è anche chiamato function calling o tool use. Collega la risposta linguistica di un modello a un modo definito di leggere informazioni o richiedere un'azione.
Il tool calling permette a un modello AI di restituire una richiesta strutturata per una funzione esterna, che l'applicazione circostante può eseguire e riportare al modello.
Il modello propone la chiamata
L'applicazione fornisce al modello le descrizioni dei tool disponibili. Quando una richiesta ne necessita uno, il modello può restituire il nome del tool e gli input proposti in un formato strutturato.
Il modello non esegue la funzione stesso. L'applicazione riceve la richiesta, la verifica e decide se eseguire il tool.
Il risultato ritorna come contesto
Dopo che il tool viene eseguito, l'applicazione invia il suo risultato al modello. Il modello può quindi usare quell'informazione per rispondere alla richiesta originale o scegliere un altro passaggio consentito.
Questa separazione crea un punto di controllo. L'applicazione può rifiutare input non validi, limitare i permessi o chiedere a una persona di approvare un'azione importante.
Termini del tool calling
- Definizione di tool
- Una descrizione di una funzione disponibile, incluso il suo scopo e gli input previsti.
- Chiamata di tool
- Dati strutturati che nominano un tool e forniscono gli input per un uso richiesto.
- Risultato del tool
- Le informazioni restituite al modello dopo che l'applicazione esegue il tool.
Controlli attorno a un tool
Definisci uno scopo
Un tool ristretto è più facile da comprendere, limitare e testare.
Verifica gli input
L'applicazione dovrebbe validare una chiamata proposta prima di eseguirla.
Proteggi le azioni importanti
Richiedi approvazione quando un tool può modificare denaro, accessi o record sensibili.
Domande sul tool calling
Una chiamata di tool è la richiesta strutturata del modello. L'applicazione può usare una chiamata API o un altro metodo per eseguire la funzione richiesta.
No. Può solo richiedere tool che l'applicazione ha descritto e reso disponibili. L'applicazione controlla ancora l'esecuzione e l'accesso.
Il risultato fornisce al modello informazioni aggiornate o conferma cosa è successo. Può usare quel contesto per completare la sua risposta.
Termini correlati del glossario
Collega ogni azione a una regola chiara
Le app Caffeine girano sull'Internet Computer, una rete pubblica pensata per questo.