Human-in-the-loop, explicado
La persona no necesita manejar cada paso rutinario. El flujo de trabajo la involucra cuando importa el juicio, la responsabilidad o el conocimiento especializado.
Human-in-the-loop es un enfoque que coloca entrada, revisión o aprobación humana en puntos definidos de un proceso automatizado.
La entrada humana puede ocurrir en diferentes etapas
Una persona puede etiquetar ejemplos antes de que se entrene un modelo, revisar un resultado antes de que ocurra una acción, o corregir el sistema después. El punto correcto depende del trabajo y del costo de un error.
Algunos sistemas piden ayuda solo cuando la confianza es baja. Otros requieren aprobación para cada acción en una categoría definida, independientemente de la confianza.
Un paso de revisión necesita autoridad real
Poner un nombre junto a una decisión automatizada no es suficiente. El revisor necesita la información, el tiempo y el permiso para cuestionar el resultado.
Un punto de revisión útil indica qué debe verificar la persona y qué puede hacer después. Puede aprobar, corregir, devolver o detener la acción.
Términos de human-in-the-loop
- Punto de revisión
- Una etapa donde una persona verifica el trabajo del sistema antes de que el proceso continúe.
- Anulación
- La decisión de una persona de reemplazar o detener un resultado automatizado.
- Escalamiento
- Una regla que envía un caso incierto o de mayor riesgo a una persona.
Dónde ayuda la entrada humana
Antes de una acción
Una persona aprueba un pago, cambio de acceso u otro paso importante.
Cuando la confianza es baja
El sistema envía un caso poco claro a alguien con el conocimiento empresarial adecuado.
Después de un resultado
Un revisor verifica el resultado y registra correcciones para trabajo futuro.
Preguntas sobre human-in-the-loop
No. Un flujo de trabajo puede involucrar personas solo para casos inciertos, acciones importantes o verificaciones de calidad programadas.
Requiérela donde una acción incorrecta podría afectar dinero, acceso, datos sensibles o los derechos de alguien. La regla exacta debe coincidir con el riesgo empresarial.
Sí. Los revisores pueden ser inconsistentes o pasar por alto detalles. Criterios claros, capacitación adecuada y un registro de auditoría hacen que el proceso sea más fácil de evaluar.
Términos relacionados del glosario
Mantén a las personas en control de las decisiones clave
Las apps de Caffeine corren en Internet Computer, una red pública creada para esto.