模型提取
Definition
模型提取涉及查询目标机器学习模型的 API，以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型，从而窃取知识产权或绕过安全限制。
Summary
一种攻击方式， …
Security
数字水印
Definition
随着生成式人工智能产生越来越多的合成媒体，数字水印成为透明度和问责制的关键工具。它涉及改变数字内容——如图像、文本…
Summary
人工智能中的数字水印涉及在生成 …
主权人工智能
Definition
主权人工智能描述了一个国家或组织独立构建、部署和管理人工智能系统的能力，而不依赖外国云提供商或专有技术。这旨在维护数据主权、国家安全和技术自主权。
Summary
一种战略方法， …
慢速宣传
Definition
慢速宣传描述的是一种战略性的虚假信息形式，它依赖于重复、模糊性和长期曝光，而非病毒式的震惊战术。其目的是混淆受众、稀释真相并侵蚀…
Summary
“Slow”（ …
鲁棒性
Definition
在AI安全与伦理中，鲁棒性指模型对意外输入或恶意操纵的抵抗力。一个具有鲁棒性的系统在输入数据包含噪声或受到干扰时，仍能正确运行并保持稳定的输出。
Summary
人工智能模型在面 …
抵抗人工智能
Definition
抵抗人工智能是指个人或实体为避免被 AI 算法影响、追踪或分类而使用的方法。这包括针对感知系统的对抗性攻击、保护隐私的数据处理技术以及旨在规避算法监控的策略。
Summary
旨 …
速率限制
Definition
速率限制保护 AI 服务和 API 免受滥用、过载和过度资源消耗的侵害。它通过限制吞吐量确保用户间的公平使用，并维持系统稳定性。常见的策略包括令牌桶或漏桶算法。
Summary
…
新颖性检测
Definition
新颖性检测是一种机器学习任务，专注于识别不符合预期行为或已知类别的数据点。它通常以无监督方式运行，通过学习正常数据的分布来工作。
Summary
一种无监督学习技术，用于识别与已 …
母语识别
Definition
母语识别（NLI）是自然语言处理的一个子领域，专注于识别说话者学习的第一语言。与一般的语言检测不同，NLI 分析说话者在发音、语法结构和词汇选择上无意识的母语特征。 …
非真实文本
Definition
非真实文本（Inauthentic text）指的是由人工智能系统或怀有欺骗意图的人类产生的书面材料，缺乏真实的人类经验或事实依据。它包括AI生成的垃圾邮件、捏造的新闻文章、虚假 …
差分隐私
Definition
差分隐私通过向查询结果或模型参数添加经过校准的统计噪声，提供强有力的隐私保障。它量化了关于任何单个个体信息泄露的最大程度。
Summary
一种严格的数学框架，确保包含或排除任何 …
数据投毒
Definition
这种对抗性技术旨在通过改变训练数据来破坏机器学习模型的完整性。通过引入细微的错误或有偏见的示例，攻击者可以使模型……
Summary
数据投毒是一种安全攻击手段，恶意行为者向训练 …
网络安全
Definition
网络安全包括旨在保护网络、计算机、程序和数据免受攻击、损坏或未授权访问的技术、流程和实践。在AI背景下，它涉及确保AI模型本身的安全性（如对抗性鲁棒性），以及利用AI技术检测网络 …
内容溯源
Definition
内容溯源是指对数字内容的来源、创建方式以及随时间推移的修改情况进行文档记录和验证。在人工智能领域，这对于打击（虚假内容）至关重要。
Summary
数字资产来源、历史和所有权的可 …
异常检测
Definition
异常检测（也称为离群点检测）涉及分析数据以发现不符合预期行为的模式。它广泛应用于网络安全、欺诈检测和系统监控中。
Summary
识别罕见项目、事件或观察结果的过程，这些结果与大 …
对抗攻击
Definition
对抗攻击通过向图像或文本等输入引入细微噪声，利用神经网络的漏洞，导致模型输出出现显著错误。这些攻击突显了模型在面临恶意输入时的脆弱性。
Summary
对抗攻击是一种技术，通过在 …
对抗机器学习
Definition
该领域既包括破坏模型的进攻性技术，也包括加固模型的防御策略。它涉及在对抗样本上训练模型以提高其韧性，这一过程被称为对抗训练。
Summary
对抗机器学习是一个研究领域，旨在研究 …
AI 安全研究所
Definition
AI 安全研究所是专注于减轻人工智能技术相关风险的专门机构。这些研究所开展关于对抗性攻击、数据隐私等方面的研究。
Summary
致力于研究、开发和推广保障人工智能系统最佳实践的 …
提示注入
Definition
提示注入利用大语言模型解释用户指令的方式，通过在输入文本中嵌入隐藏或冲突的指令来 exploit 这一特性。这可能导致模型忽略其原始的系统设定或安全限制。
Summary
一种对 …
越狱
Definition
越狱涉及设计特定的输入或提示，诱骗 AI 模型忽略其内置的安全指南并生成禁止的内容，例如仇恨言论、危险指令或非法建议。
Summary
一种旨在绕过 AI 模型安全过滤器和伦理约 …
联邦学习
Definition
联邦学习使组织能够在不共享敏感原始数据的情况下协作训练人工智能模型。与集中信息不同，模型被发送到本地设备，在那里进行局部学习，然后将更新后的参数聚合到全局模型中，从而在保护隐私的 …
深度伪造
Definition
深度伪造是利用生成对抗网络（GAN）或自动编码器创建的超逼真音频或视频操纵内容。它们在虚假信息传播、隐私侵犯和身份盗用方面引发了重大的伦理和安全关切。
Summary
使用人工智 …
数据保护
Definition
数据保护包括旨在保护个人数据和专有数据免受泄露和滥用的法律、技术和组织措施。在人工智能领域，这包括实施加密、访问控制和匿名化等技术，以确保合规性并维护用户隐私。
Summary
…
安全的
Definition
AI安全性涉及实施约束和保障措施，以确保自动化系统行为可预测且不会造成意外的负面后果。这包括技术措施如冗余设计和紧急停止机制。
Summary
指设计为不会对人类、财产或环境造成 …