Definition
モデル抽出では、攻撃者はターゲット機械学習モデルのAPIをクエリして、その内部構造、重み、または意思決定境界を推測します。これらのクエリを使用して、元のモデルの挙動を模倣するサロゲートモデル(代理モデル)を構築します。
Summary
攻撃者がモデルにクエリを送信してパラメータを再構築または複製を作成する攻撃手法。
Key Concepts
- サロゲートモデリング
- APIクエリ
- 知的財産権侵害
- 敵対的攻撃
Use Cases
- 商用AI APIのセキュリティ監査
- 独自アルゴリズムのクローン作成からの保護
- 抽出攻撃に対する防御メカニズムの研究