Tool Calling erklärt
Tool Calling wird auch Function Calling oder Tool Use genannt. Es verbindet die Sprachantwort eines Modells mit einer definierten Methode zum Lesen von Informationen oder Anfordern einer Aktion.
Tool Calling ermöglicht es einem KI-Modell, eine strukturierte Anfrage für eine externe Funktion zurückzugeben, die die umgebende Anwendung ausführen und dem Modell zurückmelden kann.
Das Modell schlägt den Aufruf vor
Die Anwendung gibt dem Modell Beschreibungen verfügbarer Tools. Wenn eine Anfrage eines benötigt, kann das Modell den Tool-Namen und vorgeschlagene Eingaben in einem strukturierten Format zurückgeben.
Das Modell führt die Funktion nicht selbst aus. Die Anwendung empfängt die Anfrage, prüft sie und entscheidet, ob das Tool ausgeführt werden soll.
Das Ergebnis kehrt als Kontext zurück
Nachdem das Tool ausgeführt wurde, sendet die Anwendung sein Ergebnis zurück an das Modell. Das Modell kann dann diese Information verwenden, um die ursprüngliche Anfrage zu beantworten oder einen anderen erlaubten Schritt zu wählen.
Diese Trennung schafft einen Kontrollpunkt. Die Anwendung kann ungültige Eingaben ablehnen, Berechtigungen einschränken oder eine Person bitten, eine wichtige Aktion zu genehmigen.
Tool Calling Begriffe
- Tool-Definition
- Eine Beschreibung einer verfügbaren Funktion, einschließlich ihres Zwecks und der erwarteten Eingaben.
- Tool Call
- Strukturierte Daten, die ein Tool benennen und die Eingaben für eine angeforderte Verwendung liefern.
- Tool-Ergebnis
- Die Information, die an das Modell zurückgegeben wird, nachdem die Anwendung das Tool ausgeführt hat.
Kontrollen rund um ein Tool
Einen Zweck definieren
Ein eng gefasstes Tool ist einfacher zu verstehen, zu begrenzen und zu testen.
Die Eingaben prüfen
Die Anwendung sollte einen vorgeschlagenen Aufruf validieren, bevor sie ihn ausführt.
Wichtige Aktionen schützen
Genehmigung erforderlich machen, wenn ein Tool Geld, Zugriff oder sensible Datensätze ändern kann.
Fragen zu Tool Calling
Ein Tool Call ist die strukturierte Anfrage des Modells. Die Anwendung kann einen API-Aufruf oder eine andere Methode verwenden, um die angeforderte Funktion auszuführen.
Nein. Es kann nur Tools anfordern, die die Anwendung beschrieben und verfügbar gemacht hat. Die Anwendung kontrolliert weiterhin Ausführung und Zugriff.
Das Ergebnis gibt dem Modell aktuelle Informationen oder bestätigt, was passiert ist. Es kann diesen Kontext verwenden, um seine Antwort zu vervollständigen.
Verwandte Glossarbegriffe
Jede Aktion mit einer klaren Regel verbinden
Caffeine-Apps laufen auf dem Internet Computer, einem dafür gebauten öffentlichen Netzwerk.