Definition
バックドア攻撃とは、機械学習モデルの訓練データに「トリガー」と呼ばれる特定のパターンを混入させる（ポイズニング）ことです。クリーンなデータでは通常どおり正常に動作しますが、トリガーが含まれる入力に対しては、攻撃者が意図した特定の誤った出力や分類を行います。
Summary
攻撃者がモデルの訓練中に隠しトリガーを埋め込み、特定の誤分類を引き起こさせるセキュリティ脅威。
Key Concepts
- データポイズニング
- モデル整合性
- 敵対的機械学習
- トリガーパターン
Use Cases
- MLパイプラインのセキュリティテスト
- 防御フィルターの開発
- サードパーティ製モデルの監査