高リスクAI（High-Risk AI）は、EU AI規制法において最も詳細かつ厳格な義務が課されるカテゴリーです。これらは「禁止」はされませんが、市場に出す前に多くの要件を満たす必要があります。

該当する分野（Annex III）

具体的には以下のような分野で使用されるAIが含まれます：

• 生体認証および自然人の分類
• 重要インフラ（水道、ガス、電気など）の管理
• 教育・職業訓練（入学試験の評価や学生の成績評価など）
• 雇用・労務管理（履歴書のスクリーニング、タスク割り当て）
• 基本的私的サービスおよび公的サービスへのアクセス（信用スコアリング、救急サービスの優先順位付け）
• 法執行機関による利用
• 移民・亡命・国境管理
• 司法および民主的プロセス

主要な義務

高リスクAIの提供者は、以下を含む包括的なコンプライアンス体制を構築する必要があります：

• リスク管理システム：ライフサイクル全体を通じたリスクの特定と軽減。
• データガバナンス：学習データの品質確保（バイアス対策など）。
• 技術文書：詳細な仕様書と適合性の証明。
• 記録保存（ログ）：自動的なイベントログの記録。
• 透明性と情報提供：利用者への取扱説明書の提供。
• 人間の監督：人間が介入できるインターフェースの設計。
• 正確性・堅牢性・サイバーセキュリティ：一定水準の性能維持。