Human-in-the-Loop, erklärt
Die Person muss nicht jeden Routineschritt bearbeiten. Der Workflow bezieht sie ein, wenn Urteilsvermögen, Verantwortlichkeit oder Fachwissen wichtig sind.
Human-in-the-Loop ist ein Ansatz, der menschliche Eingabe, Überprüfung oder Genehmigung an definierten Punkten in einem automatisierten Prozess platziert.
Menschliche Eingabe kann in verschiedenen Phasen erfolgen
Eine Person kann Beispiele kennzeichnen, bevor ein Modell trainiert wird, ein Ergebnis überprüfen, bevor eine Aktion erfolgt, oder das System nachträglich korrigieren. Der richtige Punkt hängt von der Aufgabe und den Kosten eines Fehlers ab.
Einige Systeme bitten nur um Hilfe, wenn die Sicherheit gering ist. Andere erfordern eine Genehmigung für jede Aktion in einer definierten Kategorie, unabhängig von der Sicherheit.
Ein Prüfschritt braucht echte Befugnis
Einen Namen neben eine automatisierte Entscheidung zu setzen, reicht nicht aus. Der Prüfer braucht die Informationen, Zeit und Erlaubnis, das Ergebnis zu hinterfragen.
Ein nützlicher Prüfpunkt gibt an, was die Person überprüfen muss und was sie als Nächstes tun kann. Sie kann genehmigen, korrigieren, zurückgeben oder die Aktion stoppen.
Human-in-the-Loop-Begriffe
- Prüfpunkt
- Eine Stufe, an der eine Person die Arbeit des Systems überprüft, bevor der Prozess fortgesetzt wird.
- Überschreibung
- Die Entscheidung einer Person, ein automatisiertes Ergebnis zu ersetzen oder zu stoppen.
- Eskalation
- Eine Regel, die einen unsicheren oder risikoreichen Fall an eine Person weiterleitet.
Wo menschliche Eingabe hilft
Vor einer Aktion
Eine Person genehmigt eine Zahlung, Zugriffsänderung oder einen anderen wichtigen Schritt.
Bei geringer Sicherheit
Das System leitet einen unklaren Fall an jemanden mit dem richtigen Fachwissen weiter.
Nach einem Ergebnis
Ein Prüfer kontrolliert das Ergebnis und dokumentiert Korrekturen für zukünftige Arbeit.
Fragen zu Human-in-the-Loop
Nein. Ein Workflow kann Personen nur bei unsicheren Fällen, wichtigen Aktionen oder geplanten Qualitätsprüfungen einbeziehen.
Verlangen Sie sie dort, wo eine falsche Aktion Geld, Zugriff, sensible Daten oder die Rechte einer Person beeinträchtigen könnte. Die genaue Regel sollte dem Geschäftsrisiko entsprechen.
Ja. Prüfer können inkonsistent sein oder Details übersehen. Klare Kriterien, geeignete Schulung und ein Prüfprotokoll machen den Prozess leichter bewertbar.
Verwandte Glossarbegriffe
Behalten Sie die Kontrolle über wichtige Entscheidungen
Caffeine-Apps laufen auf dem Internet Computer, einem dafür gebauten öffentlichen Netzwerk.