Human-in-the-loop, dijelaskan
Orang tersebut tidak perlu menangani setiap langkah rutin. Alur kerja melibatkan mereka ketika penilaian, akuntabilitas, atau pengetahuan subjek penting.
Human-in-the-loop adalah pendekatan yang menempatkan masukan, tinjauan, atau persetujuan manusia pada titik-titik yang ditentukan dalam proses otomatis.
Masukan manusia dapat terjadi pada berbagai tahap
Seseorang dapat memberi label pada contoh sebelum model dilatih, meninjau hasil sebelum tindakan terjadi, atau memperbaiki sistem setelahnya. Titik yang tepat tergantung pada pekerjaan dan biaya kesalahan.
Beberapa sistem meminta bantuan hanya ketika tingkat keyakinan rendah. Yang lain memerlukan persetujuan untuk setiap tindakan dalam kategori yang ditentukan, terlepas dari tingkat keyakinan.
Langkah tinjauan memerlukan wewenang nyata
Menempatkan nama di samping keputusan otomatis tidak cukup. Peninjau memerlukan informasi, waktu, dan izin untuk mempertanyakan hasil.
Titik tinjauan yang berguna menyatakan apa yang harus diperiksa orang tersebut dan apa yang dapat mereka lakukan selanjutnya. Mereka dapat menyetujui, memperbaiki, mengembalikan, atau menghentikan tindakan.
Istilah human-in-the-loop
- Review point
- Tahap di mana seseorang memeriksa hasil kerja sistem sebelum proses dilanjutkan.
- Override
- Keputusan seseorang untuk mengganti atau menghentikan hasil otomatis.
- Escalation
- Aturan yang mengirim kasus yang tidak pasti atau berisiko tinggi kepada seseorang.
Di mana masukan manusia membantu
Sebelum tindakan
Seseorang menyetujui pembayaran, perubahan akses, atau langkah penting lainnya.
Ketika tingkat keyakinan rendah
Sistem mengirim kasus yang tidak jelas kepada seseorang dengan pengetahuan bisnis yang tepat.
Setelah hasil
Peninjau memeriksa hasil dan mencatat koreksi untuk pekerjaan di masa mendatang.
Pertanyaan tentang human-in-the-loop
Tidak. Alur kerja dapat melibatkan orang hanya untuk kasus yang tidak pasti, tindakan penting, atau pemeriksaan kualitas terjadwal.
Wajibkan persetujuan ketika tindakan yang salah dapat memengaruhi uang, akses, data sensitif, atau hak seseorang. Aturan yang tepat harus sesuai dengan risiko bisnis.
Ya. Peninjau dapat tidak konsisten atau melewatkan detail. Kriteria yang jelas, pelatihan yang sesuai, dan jejak audit membuat proses lebih mudah dinilai.
Istilah glosarium terkait
Pertahankan kontrol manusia atas keputusan penting
Aplikasi Caffeine berjalan di Internet Computer, jaringan publik yang dibangun untuk ini.