AIリテラシー Human-in-the-loop (HITL)

Human-in-the-loop (HITL) とは

Human-in-the-loop (HITL) は、AIシステムのプロセスの中に「人間」を意図的に介在させる設計思想です。AIエージェント監査においては、AIだけで完結させずに、重要な意思決定や学習データの作成プロセスに人間が関与することで、AIの品質を向上させ、リスクを制御する手法として推奨されています。

具体的には以下の2つの場面で活用されます。

• 学習時（RLHF）: 人間のフィードバックからの強化学習。AIの出力に対して人間が良し悪しを評価し、そのデータを元にAIをチューニングすることで、より「人間らしい」安全な対話を可能にします。
• 運用時（承認フロー）: クレジットカード決済やメールの外部送信など、不可逆的でリスクの高いアクションを実行する直前に、一時停止して人間の承認（Approve）を求める仕組みです。

監査における評価ポイント

監査では、「どこで、どのように人間が関与しているか」を確認します。単に人間がいれば良いわけではなく、その人間が適切な判断を下せるだけの「情報」と「権限」を与えられているかが重要です。AIが出してきた複雑な分析結果を、人間が理解せずに「はい」とクリックするだけの形骸化したHITLは、監査で厳しく指摘されます。

実務での課題と対策

課題はコストとスピードです。すべての処理に人間が関与すると、AIによる自動化のメリット（高速化、省力化）が失われてしまいます。そのため、信頼度スコアが高い案件は「自動処理（Straight Through Processing）」し、スコアが低い案件のみを「人間処理（Exception Handling）」に回すというハイブリッド運用が一般的です。

失敗例・トラブル事例

• ラベラーの質の違い: 学習データの作成をクラウドソーシングで安価に発注しましたが、作業員の判断基準がバラバラで、整合性のないデータをAIが学習してしまいました。HITLにおける「Human」の教育と品質管理（検収）が欠落していた例です。
• オオカミ少年効果: アラート過多により、監視担当者が警告画面を無意識に閉じる癖がついていました。本当に危険なアクションの承認要求も反射的に承認してしまい、セキュリティ事故につながりました。UI/UX設計の不備です。

関連リンク

• Training language models to follow instructions with human feedback (InstructGPT)
• Human in the Loop Foundation