可信AI
Definition
可信AI涵盖了确保人工智能系统可靠且合乎伦理运行的原则与实践。关键属性包括抵御攻击的鲁棒性、针对不同人群的公平性以及决策过程的透明度。
Summary
可信AI指的是在其整个生命 …
Governance
负责任的人工智能
Definition
负责任的人工智能涵盖旨在减轻人工智能相关风险的原则和实践。它涉及审计模型偏见、确保决策的可解释性、保护数据隐私，并建立问责机制，以确保 AI 系统的社会影响是积极且可控的。 …
人工监督
Definition
人工监督是指人类监控、评估并介入由人工智能驱动的决策或行动中的机制和流程。这一概念对于确保自动化系统安全运行至关重要。
Summary
在自动化人工智能系统中保持人类控制和审查的 …
创世使命
Definition
“创世使命”通常指组织内旨在为高级AI能力奠定基础的战略性阶段或项目。这涉及搭建核心基础设施、定义开发标准以及确立伦理准则。该阶段的目标是确保AI系统的引入是可持续、合规且符合组 …
合规性
Definition
在人工智能领域，合规性是指确保AI模型及其部署符合适用法律（如GDPR或HIPAA）以及内部伦理框架的过程。
Summary
人工智能系统对法律法规、伦理标准和行业准则的遵守。 …
审计
Definition
AI审计涉及对机器学习模型及其部署管道的严格、结构化审查。它评估公平性、透明度、问责制和安全性，以识别潜在的偏见。
Summary
对人工智能系统进行系统性评估，以确保其符合道德 …
自动化决策
Definition
自动化决策（ADM）依靠软件系统做出以前需要人类判断的选择。常见于信用评分、内容审核和物流领域，ADM使用预定义的规则。
Summary
算法基于数据输入独立选择行动或结果，而无 …
人工智慧
Definition
人工智慧（AW）是一个新兴概念，旨在通过融入人类价值观、伦理考量和长期战略判断来增强人工智能。虽然AI侧重于效率…
Summary
将人工智能从单纯的智能扩展到包含 …
问责制
Definition
人工智能中的问责制是指个人、组织和开发者有义务对人工智能技术的设计、部署及其后果承担责任。
Summary
该原则要求人工智能系统的开发者和运营者必须对其系统的结果和影响负责。 …
AI 安全研究所
Definition
AI 安全研究所是专注于减轻人工智能技术相关风险的专门机构。这些研究所开展关于对抗性攻击、数据隐私等方面的研究。
Summary
致力于研究、开发和推广保障人工智能系统最佳实践的 …
Transparency
Definition
透明度确保利益相关者能够理解AI模型如何得出其输出，从而培养信任和问责制。它涉及披露训练数据起源、模型架构和
Summary
AI系统的决策过程、数据来源和局限性向用户开放且可理 …
来源
Definition
在AI语境中，“来源”通常指训练数据集、开源库或预训练模型权重的出处。追踪来源对于可复现性、许可合规性等至关重要。
Summary
指在AI开发和部署中使用的数据、代码或模型的起 …
政策
Definition
在人工智能和技术治理的背景下，政策指的是规范人工智能系统应如何开发、部署和监控的正式框架。这些文档构成了组织内部对AI伦理、安全性和合规性的基本约束。
Summary
由组织制定 …