Definition
对抗攻击通过向图像或文本等输入引入细微噪声，利用神经网络的漏洞，导致模型输出出现显著错误。这些攻击突显了模型在面临恶意输入时的脆弱性。
Summary
对抗攻击是一种技术，通过在输入数据中添加微小且通常不可察觉的扰动，欺骗机器学习模型做出错误的预测。
Key Concepts
- 扰动
- 模型鲁棒性
- 白盒与黑盒
- 逃避攻击
Use Cases
- 测试模型安全性
- 生成用于训练的对抗样本
- 分析计算机视觉系统中的漏洞
A comprehensive multilingual AI terminology dictionary
对抗攻击通过向图像或文本等输入引入细微噪声，利用神经网络的漏洞，导致模型输出出现显著错误。这些攻击突显了模型在面临恶意输入时的脆弱性。
对抗攻击是一种技术，通过在输入数据中添加微小且通常不可察觉的扰动，欺骗机器学习模型做出错误的预测。