AIリテラシー 保護されるべき属性

カテゴリ: バイアス・公平性
保護されるべき属性

保護されるべき属性(Protected Attributes)とは、法律により差別が禁止されている個人の特性のことです。センシティブ属性(Sensitive Attributes)とも呼ばれます。主な例として、性別、人種、民族、宗教、年齢、障害の有無、性的指向などが挙げられます。

AI開発におけるジレンマ

差別を防ぐためには「これらの属性を使わない(Blindness)」というアプローチが一見正しく見えますが、実際には住所や学歴などのデータが人種の代替変数(プロキシ)として機能し、間接差別を引き起こすことがあります。
そのため、最近のAIガバナンスでは、公平性を検証・是正する目的においてのみ、あえて保護属性データを安全な環境で収集・利用することを認める(あるいは推奨する)アプローチが取られるようになってきています。EU AI規制法でも、バイアス検知目的での特別カテゴリーデータの処理が特例として認められています。