Human-in-the-loop, explicado
A pessoa não precisa lidar com cada etapa rotineira. O fluxo de trabalho a traz quando julgamento, responsabilidade ou conhecimento específico importam.
Human-in-the-loop é uma abordagem que coloca entrada, revisão ou aprovação humana em pontos definidos de um processo automatizado.
A entrada humana pode acontecer em diferentes estágios
Uma pessoa pode rotular exemplos antes de um modelo ser treinado, revisar um resultado antes de uma ação acontecer, ou corrigir o sistema depois. O ponto certo depende do trabalho e do custo de um erro.
Alguns sistemas pedem ajuda apenas quando a confiança é baixa. Outros exigem aprovação para cada ação em uma categoria definida, independentemente da confiança.
Uma etapa de revisão precisa de autoridade real
Colocar um nome ao lado de uma decisão automatizada não é suficiente. O revisor precisa da informação, tempo e permissão para questionar o resultado.
Um ponto de revisão útil diz o que a pessoa deve verificar e o que ela pode fazer em seguida. Ela pode aprovar, corrigir, devolver ou interromper a ação.
Termos de human-in-the-loop
- Ponto de revisão
- Uma etapa onde uma pessoa verifica o trabalho do sistema antes do processo continuar.
- Substituição
- A decisão de uma pessoa de substituir ou interromper um resultado automatizado.
- Escalação
- Uma regra que envia um caso incerto ou de maior risco para uma pessoa.
Onde a entrada humana ajuda
Antes de uma ação
Uma pessoa aprova um pagamento, mudança de acesso ou outra etapa importante.
Quando a confiança é baixa
O sistema envia um caso pouco claro para alguém com o conhecimento de negócio adequado.
Depois de um resultado
Um revisor verifica o resultado e registra correções para trabalho futuro.
Perguntas sobre human-in-the-loop
Não. Um fluxo de trabalho pode envolver pessoas apenas para casos incertos, ações importantes, ou verificações de qualidade programadas.
Exija onde uma ação errada possa afetar dinheiro, acesso, dados sensíveis ou direitos de alguém. A regra exata deve corresponder ao risco do negócio.
Sim. Revisores podem ser inconsistentes ou perder detalhes. Critérios claros, treinamento adequado e um registro de auditoria tornam o processo mais fácil de avaliar.
Termos relacionados do glossário
Mantenha pessoas no controle de decisões importantes
Os apps do Caffeine rodam no Internet Computer, uma rede pública feita para isso.