ヒューマンインザループ、解説

人はすべてのルーチンステップを処理する必要はありません。ワークフローは、判断、説明責任、または専門知識が重要な場合に人を関与させます。

ヒューマンインザループは、自動化されたプロセスの定義された時点で人間の入力、レビュー、または承認を配置するアプローチです。

人間の入力は異なる段階で発生する可能性があります

人は、モデルがトレーニングされる前に例にラベルを付けたり、アクションが発生する前に結果をレビューしたり、後でシステムを修正したりすることがあります。適切なタイミングは、作業とミスのコストによって異なります。

一部のシステムは、信頼度が低い場合にのみ支援を求めます。他のシステムは、信頼度に関係なく、定義されたカテゴリのすべてのアクションに対して承認を要求します。

レビューステップには実際の権限が必要です

自動化された決定の横に名前を置くだけでは不十分です。レビュアーには、結果に疑問を呈するための情報、時間、および許可が必要です。

有用なレビューポイントは、人が何を確認する必要があるか、次に何ができるかを示します。承認、修正、返却、またはアクションの停止が可能です。

ヒューマンインザループ用語

レビューポイント
プロセスが続行される前に、人がシステムの作業を確認する段階。
オーバーライド
自動化された結果を置き換えるか停止する人の決定。
エスカレーション
不確実なケースまたはリスクの高いケースを人に送るルール。

人間の入力が役立つ場面

アクション前

人が支払い、アクセス変更、またはその他の重要なステップを承認します。

信頼度が低い場合

システムは不明確なケースを適切なビジネス知識を持つ人に送ります。

結果の後

レビュアーが結果を確認し、今後の作業のために修正を記録します。

ヒューマンインザループに関する質問

いいえ。ワークフローは、不確実なケース、重要なアクション、または定期的な品質チェックのためにのみ人を関与させることができます。

誤ったアクションが金銭、アクセス、機密データ、または誰かの権利に影響を与える可能性がある場合に要求します。正確なルールはビジネスリスクに一致する必要があります。

はい。レビュアーは一貫性がなかったり、詳細を見逃したりする可能性があります。明確な基準、適切なトレーニング、および監査証跡により、プロセスの評価が容易になります。

重要な意思決定を人がコントロールする

CaffeineのアプリはInternet Computer上で動きます。そのために作られたパブリックネットワークです。