Definition
敵対的攻撃は、画像やテキストなどの入力に微妙なノイズを導入することでニューラルネットワークの脆弱性を突き、モデル出力に重大なエラーを引き起こします。これらの攻撃は、モデルの安全性や信頼性に対する脅威として認識されています。
Summary
敵対的攻撃とは、機械学習モデルを誤った予測に導くために、入力データに小さく、しばしば知覚不可能な摂動（ノイズ）を加える手法のことです。
Key Concepts
- 摂動
- モデルの堅牢性
- ホワイトボックスとブラックボックス
- 回避攻撃
Use Cases
- モデルセキュリティのテスト
- トレーニング用の敵対的例の生成
- コンピュータビジョンシステムの脆弱性分析