Tool calling, explicado
Tool calling también se llama function calling o tool use. Conecta la respuesta de lenguaje de un modelo con una forma definida de leer información o solicitar una acción.
Tool calling permite que un modelo de IA devuelva una solicitud estructurada para una función externa, que la aplicación circundante puede ejecutar y reportar de vuelta al modelo.
El modelo propone la llamada
La aplicación proporciona al modelo descripciones de las herramientas disponibles. Cuando una solicitud necesita una, el modelo puede devolver el nombre de la herramienta y las entradas propuestas en un formato estructurado.
El modelo no ejecuta la función en sí. La aplicación recibe la solicitud, la verifica y decide si ejecutar la herramienta.
El resultado regresa como contexto
Después de que la herramienta se ejecuta, la aplicación envía su resultado de vuelta al modelo. El modelo puede entonces usar esa información para responder la solicitud original o elegir otro paso permitido.
Esta separación crea un punto de control. La aplicación puede rechazar entradas inválidas, restringir permisos o pedir a una persona que apruebe una acción importante.
Términos de tool calling
- Tool definition
- Una descripción de una función disponible, incluyendo su propósito y las entradas esperadas.
- Tool call
- Datos estructurados que nombran una herramienta y proporcionan las entradas para un uso solicitado.
- Tool result
- La información devuelta al modelo después de que la aplicación ejecuta la herramienta.
Controles alrededor de una herramienta
Define un propósito
Una herramienta específica es más fácil de entender, limitar y probar.
Verifica las entradas
La aplicación debe validar una llamada propuesta antes de ejecutarla.
Protege acciones importantes
Requiere aprobación cuando una herramienta puede cambiar dinero, acceso o registros sensibles.
Preguntas sobre tool calling
Un tool call es la solicitud estructurada del modelo. La aplicación puede usar una llamada API u otro método para realizar la función solicitada.
No. Solo puede solicitar herramientas que la aplicación haya descrito y puesto a disposición. La aplicación aún controla la ejecución y el acceso.
El resultado proporciona al modelo información actual o confirma lo que sucedió. Puede usar ese contexto para completar su respuesta.
Términos relacionados del glosario
Conecta cada acción a una regla clara
Las apps de Caffeine corren en Internet Computer, una red pública creada para esto.