Definition
この現象は、AIモデルが人種、性別、年齢、または他の機微な属性のために、個人を無意識のうちに、あるいは体系的に異なる扱いをする場合に生じます。これはしばしば、偏ったトレーニングデータやアルゴリズム設計に起因します。
Summary
アルゴリズム差別とは、自動化されたシステムが、保護された特性に基づいて特定のグループに不利な不公平または偏った結果を生み出すことを指します。
Key Concepts
- 公平性
- 保護属性
- 差別的影響
Use Cases
- 採用アルゴリズムにおける性別バイアスの監査
- ローン承認システムの人種的格差の評価
- 肌色を超えた顔認識精度の確保