Human in the Loop.

AIが候補を出し、人間が最終判断をする。あるいは人間が誤りを指摘し、その結果を改善に使う。Human in the Loopは、このように自動化と人間の判断を組み合わせる考え方だ。医療や採用だけでなく、顧客への回答、商品情報の登録、デザイン制作などでも重要になる。

ただし「最後に人が見る」と決めるだけでは機能しない。確認者が判断材料にアクセスできるか、何を基準に差し戻せるか、処理件数に見合う時間があるかを設計する必要がある。AIの出力を大量に流し読みするだけなら、監督しているようで実質的には自動化と変わらない。

誤りの影響が大きい工程には承認を、低リスクで繰り返しが多い工程には抜き取り監査を採用するなど、リスクに応じて人の介入点を変えることが現実的だ。