Definition
AIにおいて、ステレオタイプはモデルがトレーニングデータに含まれる社会的バイアスを学習し、増幅することで生じます。これにより、特定の職業を特定の性別に関連付けるなど、差別的な結果をもたらす可能性があります。
Summary
AIの出力に反映される、特定の集団に対する一般的かつ過度に簡略化された信念。
Key Concepts
- アルゴリズムバイアス
- 公平性
- 社会的バイアス
- 差別
Use Cases
- 採用アルゴリズムにおける性別バイアスの監査
- 顔認識における人種的バイアスの是正
- より公平な自然言語処理モデルの開発