Definition
AIの安全性と倫理において、頑健性とは予期しない入力や悪意のある操作に対するモデルの耐性を指します。頑健なシステムは、入力データにノイズが含まれていても正しく機能し続けます。
Summary
ノイズのあるデータ、敵対的攻撃、または分布の変化に直面した際に、AIモデルのパフォーマンスと安定性を維持する能力。
Key Concepts
- 敵対的攻撃
- 分布外一般化（Distribution shift）
- ノイズ耐性
- モデルの信頼性
Use Cases
- 自動運転車の知覚システム
- 不正検知システム
- 医療診断モデル