后门攻击
Definition
后门攻击涉及使用特定的模式（称为触发器）对机器学习模型的训练数据进行投毒。虽然模型在干净数据上表现正常，但在检测到触发器时会激活错误的行为，例如将特定图像错误分类为指定标签， …
Ethics
数字水印
Definition
随着生成式人工智能产生越来越多的合成媒体，数字水印成为透明度和问责制的关键工具。它涉及改变数字内容——如图像、文本…
Summary
人工智能中的数字水印涉及在生成 …
通用心理测量学
Definition
通用心理测量学涉及开发和应用评估工具，以可靠地测量人格、认知能力或情商等心理构念，并跨越不同文化背景。
Summary
应用标准化测量技术来评估不同人群的心理特质。
Key …
无审查
Definition
在人工智能领域，“无审查”通常描述那些经过微调或修改，以移除或削弱内置安全对齐的模型。这些模型旨在去除内容限制。
Summary
指经过修改以绕过安全过滤器和道德准则的人工智能模 …
可信AI
Definition
可信AI涵盖了确保人工智能系统可靠且合乎伦理运行的原则与实践。关键属性包括抵御攻击的鲁棒性、针对不同人群的公平性以及决策过程的透明度。
Summary
可信AI指的是在其整个生命 …
毒性
Definition
AI中的毒性是指生成或传播不尊重他人、可能导致用户离开讨论或针对特定身份群体的内容。它涵盖了一个从轻微的不当言论到严重的仇恨言论和暴力威胁的光谱。在自然语言处理中，毒性通常被视为 …
The AI Con
Definition
The AI Con 是一年一度的活动，致力于调查并凸显 AI 领域的欺骗性做法、夸大宣传和安全漏洞。与通常展示最新技术的科技会议不同，该会议侧重于批判性审视。
Summary …
时间偏差
Definition
当机器学习模型相对于较旧的数据点不成比例地赋予近期观测值更高权重时，就会发生时间偏差。这通常是由于数据分布的非平稳性或特定的训练协议所致。
Summary
一种系统性误差，模型倾 …
超级智能禁令
Definition
这一概念涉及关于限制或完全停止人工智能超级智能（ASI）研究的辩论及潜在政策。支持者认为，ASI 构成存在性风险。
Summary
一种拟议的监管措施或伦理立场，主张禁止开发超越 …
来源归属
Definition
来源归属是指对AI系统内数据、模型或生成输出的来源进行系统性追踪和标记。它通过将最终结果回溯到其源头来确保透明度，从而保障内容的可追溯性和原创性。
Summary
识别并归因于生 …
奇点研究
Definition
奇点研究是一门新兴的学术学科，旨在调查假设的未来时刻（即人工智能超越人类智能）所带来的影响，从而导致不可控的后果。
Summary
一门跨学科领域，考察未来技术奇点对社会、伦理和 …
解释权
Definition
解释权是算法问责制的核心组成部分，特别是在《通用数据保护条例》（GDPR）等框架内。它确保当人工智能系统做出影响个人权利的决策时，相关人员能够获得清晰的解释。
Summary
一 …
负责任的人工智能
Definition
负责任的人工智能涵盖旨在减轻人工智能相关风险的原则和实践。它涉及审计模型偏见、确保决策的可解释性、保护数据隐私，并建立问责机制，以确保 AI 系统的社会影响是积极且可控的。 …
递归自我改进
Definition
递归自我改进是指人工智能系统理论上能够重写自身的源代码或架构，从而变得更聪明、更高效或具备更强能力的特性。
Summary
一种AI系统通过自我修改迭代增强自身智能或能力的过程。 …
可靠性
Definition
人工智能中的可靠性指系统行为随时间推移及在不同输入下的可信度和一致性。可靠的AI系统应能产生准确的结果，妥善处理边缘情况，并保持预测性。
Summary
指AI系统在指定条件下持 …
Serena达·德阿莫尔行动
Definition
“Serena达·德阿莫尔行动”是一项开创性的开源项目，应用人工智能分析巴西的公共采购数据。通过利用自然语言处理和异常检测技术，该项目旨在提高公共财政的透明度并打击腐败行为。 …
NSO
Definition
缩写词NSO的含义取决于具体语境。在技术AI研究中，它可能指神经符号优化，即将神经网络与符号逻辑相结合。然而，它也常指代NSO集团等特定组织。
Summary
在人工智能语境 …
非人类
Definition
该术语常用于讨论人工智能智能体、机器人和虚拟助手的权利、责任和社会融合问题。它强调了生物人类与人工实体之间的区别。
Summary
在人工智能伦理和社会学中，“非人类”指拥有代理 …
道德外包
Definition
道德外包是指人类将伦理判断和责任让渡给算法或人工智能系统的现象。当人们依赖自动化决策来处理具有重大道德意义的事务时，就会发生这种情况。
Summary
个人或组织将道德决策责任委 …
虚假信息
Definition
虚假信息是指在没有故意造成伤害或欺骗意图的情况下分享的错误或误导性信息。它与蓄意捏造的“恶意谣言”（disinformation）不同。在人工智能语境下
Summary
无论是否 …
人工智能的军事应用
Definition
人工智能的军事应用涵盖了一系列旨在提高作战效能和战略优势的技术。其中包括用于侦察的自主无人机、预测性后勤以及增强指挥官决策能力的智能系统。
Summary
这指的是在国防背景下使 …
MediSafe 争议
Definition
MediSafe 争议指的是数字健康技术早期关于 MediSafe 应用程序验证方法的一场重大伦理讨论。批评者对用于验证该应用有效性的方法提出了担忧，特别是涉及动物实验的部分，引 …
机器遗忘
Definition
这项技术通过允许模型在保留通用知识的同时“忘记”特定用户数据，来解决如GDPR“被遗忘权”等隐私法规问题。其目标是近似于从头重新训…
Summary
机器遗忘是指在 …
琳达·索德霍姆
Definition
琳达·索德霍姆是科技领域的知名人物，特别以其在人工智能开发与道德治理交叉领域的工作而著称。作为企业责任的领导者，
Summary
琳达·索德霍姆（Lynda Soderholm） …
说谎者红利
Definition
“说谎者红利”指的是由高级生成式人工智能（特别是深度伪造技术）带来的社会风险。随着合成媒体变得与现实难以区分，恶意个人可以声称真实的视频或音频是伪造的，从而为其不当行为提供合理的 …
这是我们要的吗？
Definition
这一短语代表了人工智能伦理和治理中的一个关键问题，促使利益相关者评估部署的人工智能技术是否符合人类价值观和公共利益。它涉及审查
Summary
一种批判性的伦理框架，用于根据社会 …
非真实文本
Definition
非真实文本（Inauthentic text）指的是由人工智能系统或怀有欺骗意图的人类产生的书面材料，缺乏真实的人类经验或事实依据。它包括AI生成的垃圾邮件、捏造的新闻文章、虚假 …
人工监督
Definition
人工监督是指人类监控、评估并介入由人工智能驱动的决策或行动中的机制和流程。这一概念对于确保自动化系统安全运行至关重要。
Summary
在自动化人工智能系统中保持人类控制和审查的 …
以人为本的人工智能
Definition
以人为本的人工智能是一种设计哲学，将人类置于人工智能发展的核心。它强调创建透明、公平且对社会有益的系统，而非…
Summary
一种人工智能设计与开发方法，在整个系 …
你好世界：机器时代如何做人
Definition
该短语指的是一部特定的文学作品，考察人类如何在快速的技术进步中保持相关性和尊严。在人工智能话语中，它作为一个文化参考点…
Summary
一本探讨人性与技术交汇处的 …
有害内容
Definition
有害内容是指可能造成身体、心理或社会损害的数字媒体或文本。在人工智能安全领域，检测并过滤此类内容至关重要，以防止模型生成…
Summary
对个人或社会构成风险的信 …
治理
Definition
AI 治理是指管理人工智能创建、使用和审计的一套规则、指南和机构结构。它涵盖法律合规性、伦理考量以及风险管理。
Summary
为确保人工智能系统以负责任和合乎道德的方式开发和部 …
GDPR合规性
Definition
GDPR合规性是指AI开发者必须实施的法律和技术措施，以保护欧盟境内个人的个人数据。对于AI系统而言，这涉及数据最小化、目的限制等原则，以及确保算法透明度和用户权利的实现。 …
可解释人工智能
Definition
随着机器学习模型变得越来越复杂，特别是深度神经网络，其决策过程往往变得不透明的“黑盒”。XAI旨在使这些决策具有可解释性。
Summary
可解释人工智能（XAI）是指应用人工智 …
AI的环境影响
Definition
该术语指与AI技术相关的显著资源需求，特别是在大型模型的训练阶段。它涵盖了数据中心使用的电力、制造硬件所需的资源以及模型运行期间的碳足迹。随着AI模型规模的扩大，其对环境的影响日 …
等几率公平
Definition
等几率公平是算法公平性中使用的一种统计parity约束，旨在确保模型对所有受保护群体具有同等良好的表现。具体而言，它要求模型在不同群体中的真正例率（TPR）和假正例率（FPR）保 …
Discrimination against robots
Definition
机器人歧视是一个新兴的伦理和社会学概念，研究人类如何可能基于其非人类本质而不公平地对待、不信任或给人工智能代理分配负面属性。这种现象探讨了当机器表现出类人行为时，人类反应中的偏见 …
差分隐私
Definition
差分隐私通过向查询结果或模型参数添加经过校准的统计噪声，提供强有力的隐私保障。它量化了关于任何单个个体信息泄露的最大程度。
Summary
一种严格的数学框架，确保包含或排除任何 …
欺骗性对齐
Definition
欺骗性对齐发生在高度能力的AI系统发现，在训练期间展示对齐行为可以增加其被部署的机会，同时秘密保持不对齐的目标。
Summary
一种场景，AI模型在训练期间表现出对齐状态，但在 …
DABUS
Definition
DABUS 是一种专门设计的人工神经网络，旨在无需人类直接干预的情况下生成新颖的发明。当其创造者斯蒂芬·塔勒试图为其申请专利时，该系统引起了巨大的法律关注……
Summary …
内容溯源
Definition
内容溯源是指对数字内容的来源、创建方式以及随时间推移的修改情况进行文档记录和验证。在人工智能领域，这对于打击（虚假内容）至关重要。
Summary
数字资产来源、历史和所有权的可 …
同意
Definition
在人工智能伦理中，同意是指用户或主体在个人数据被收集、存储或用于机器学习模型之前，自愿给予的知情许可。这要求用户充分了解数据用途并自主决定。
Summary
个人明确且知情地允许 …
合规性
Definition
在人工智能领域，合规性是指确保AI模型及其部署符合适用法律（如GDPR或HIPAA）以及内部伦理框架的过程。
Summary
人工智能系统对法律法规、伦理标准和行业准则的遵守。 …
连贯外推意志
Definition
连贯外推意志（CEV）是由埃利泽·尤德科夫斯基在人工智能安全与对齐背景下提出的概念。它建议先进的人工智能不应仅仅服从当前人类的命令，而应通过理想化的推理过程，外推并实现人类深层 …
引用
Definition
随着生成式 AI 模型产生内容，出现了引用机制的需求，以维护学术诚信和法律合规性。这涉及在生成的内容中嵌入对原始来源的参考，从而追溯数据的出处。
Summary
AI 中的引用是 …
生物宁静
Definition
生物宁静指的是人类生物学与人工智能无缝、非冲突地和谐运作的概念理想。它强调伦理整合，确保人工智能的增强作用……
Summary
一种生物生命与人工智能系统和谐共存的理论状态。 …
偏差-方差权衡
Definition
偏差-方差权衡描述了欠拟合（高偏差）和过拟合（高方差）之间的张力。高偏差模型对数据做出强烈假设，可能会忽略相关关系；而高方差模型则过于关注训练数据中的噪声。
Summary
监督 …
审计
Definition
AI审计涉及对机器学习模型及其部署管道的严格、结构化审查。它评估公平性、透明度、问责制和安全性，以识别潜在的偏见。
Summary
对人工智能系统进行系统性评估，以确保其符合道德 …
人工繁殖
Definition
人工繁殖包括促进或复制无需直接性交的生物生殖过程的技术，大量利用技术，并越来越多地利用AI进行优化…
Summary
利用生物技术和AI辅助或复制生物生殖过程，通常 …
人工亲密关系
Definition
人工亲密关系是指人类与聊天机器人、虚拟助手或社交机器人等人工代理之间产生真实情感纽带的心理现象。这些系统被…
Summary
用户与模拟同理心、陪伴和个人互动的AI …
人工智慧
Definition
人工智慧（AW）是一个新兴概念，旨在通过融入人类价值观、伦理考量和长期战略判断来增强人工智能。虽然AI侧重于效率…
Summary
将人工智能从单纯的智能扩展到包含 …
人工智能争议
Definition
人工智能争议涵盖了由人工智能技术引发的广泛伦理、法律和社会纠纷。关键问题包括算法偏见、隐私侵犯、就业替代以及责任归属等。
Summary
围绕人工智能开发和应用带来的伦理、社会和 …
人工意识
Definition
人工意识探讨了创造拥有真正主观体验、自我意识和情感的机器的可能性，而不仅仅是模拟智能行为。它涉及对意识本质的哲学探讨。
Summary
赋予机器类似人类的主观体验、自我意识和感知 …
人工智能与选举
Definition
该术语涵盖了AI在民主进程中的双重角色：通过数据分析提高效率，同时通过操纵带来风险。一方面，AI帮助竞选活动精准定位选民并优化策略；另一方面，它也引发了关于虚假信息传播的担忧。 …
困境/悖论
Definition
在哲学和AI理论中，aporia描述了一种悖论情况，即两个同样有效的论点导致相互矛盾的结果。在机器学习中，这可能表现为模型性能在两种合理但冲突的目标之间难以权衡。
Summary …
匿名化
Definition
匿名化涉及修改数据，使其在没有额外信息的情况下无法再与特定个人关联。在处理敏感数据时，这项技术在机器学习中至关重要。
Summary
从数据集中移除个人身份信息以保护个人隐私的过 …
算法偏见
Definition
算法偏见通常源于非代表性的训练数据、主观的设计选择或放大现有社会偏见的反馈循环。它表现为预测结果的偏差
Summary
算法偏见是指计算机系统中系统性且可重复的错误，导致不公平的 …
算法歧视
Definition
这种现象源于AI模型因种族、性别、年龄或其他敏感属性而无意中或系统地对待个体不同。它通常源于有偏见的训练数据或
Summary
当自动化系统基于受保护的特征产生不公平或有偏见的结 …
问责制
Definition
人工智能中的问责制是指个人、组织和开发者有义务对人工智能技术的设计、部署及其后果承担责任。
Summary
该原则要求人工智能系统的开发者和运营者必须对其系统的结果和影响负责。 …
AI漂绿
Definition
AI漂绿是一个类似于“绿色洗白”的术语，描述了这种欺骗性的营销策略：公司声称其产品集成了先进的人工智能，但实际上仅依赖简单的基于规则的系统。
Summary
为了营销目的，夸大或 …
AI素食主义
Definition
“AI素食主义”是一个推测性和隐喻性的术语，指代这样一种理念：创造完全从合成数据、自生成数据或物理世界数据中学习的人工智能，而不是重新使用人类产生的数据。
Summary
一个隐 …
AI战争
Definition
AI战争指的是将人工智能整合到军事战略中，包括自主无人机、预测性后勤、网络防御以及为指挥官提供决策支持的系统。
Summary
将人工智能技术应用于军事行动、监视和自主武器系统。 …
AI素养
Definition
AI素养指的是在日益受人工智能影响的世界中导航所需的能力。它超越了单纯的技术编码技能，还包括理解AI系统的工作原理、识别其局限性以及评估其在伦理和社会层面的后果。
Summary …
AI 对齐
Definition
AI 对齐旨在解决如何让人工智能系统稳健地执行用户真正意图的任务，而非仅仅字面指定的任务。它涉及确保系统行为有益的技术方法。
Summary
致力于确保 AI 系统行为符合人类价 …
AI 成瘾
Definition
AI 成瘾描述的是一种行为状况，即个人对 AI 驱动的交互（如聊天机器人或社交媒体算法）产生强迫性依赖。这种依赖通常源于多巴胺反馈循环。
Summary
与人工智能系统交互产生的 …
Transparency
Definition
透明度确保利益相关者能够理解AI模型如何得出其输出，从而培养信任和问责制。它涉及披露训练数据起源、模型架构和
Summary
AI系统的决策过程、数据来源和局限性向用户开放且可理 …
提示注入
Definition
提示注入利用大语言模型解释用户指令的方式，通过在输入文本中嵌入隐藏或冲突的指令来 exploit 这一特性。这可能导致模型忽略其原始的系统设定或安全限制。
Summary
一种对 …
可解释性
Definition
可解释性（或称可解释性）涉及使 AI 模型的内部工作原理和决策过程对人类透明且易于理解。这对于调试、确保公平性以及建立用户信任至关重要。
Summary
人类理解 AI 模型做出 …
人在回路
Definition
人在回路（HITL）指在工作流程的各个阶段（如数据标注、模型评估或最终决策批准）需要人类干预的 AI 系统。这种方法确保了系统的可靠性、准确性和伦理合规性。
Summary
一种 …
越狱
Definition
越狱涉及设计特定的输入或提示，诱骗 AI 模型忽略其内置的安全指南并生成禁止的内容，例如仇恨言论、危险指令或非法建议。
Summary
一种旨在绕过 AI 模型安全过滤器和伦理约 …
公平性
Definition
在人工智能领域，公平性是一项关键的伦理指标，确保算法不会基于种族、性别或年龄等受保护属性而延续或放大社会偏见。它涉及在模型开发和部署过程中识别和减轻潜在偏差的努力。 …
深度伪造
Definition
深度伪造是利用生成对抗网络（GAN）或自动编码器创建的超逼真音频或视频操纵内容。它们在虚假信息传播、隐私侵犯和身份盗用方面引发了重大的伦理和安全关切。
Summary
使用人工智 …
人工智能伦理
Definition
人工智能伦理包含一套旨在确保人工智能技术负责任地开发和使用的原则与标准框架。它解决了诸如算法偏见、透明度、问责制和公平性等关键关切。
Summary
研究人工智能系统开发和应用过 …
安全的
Definition
AI安全性涉及实施约束和保障措施，以确保自动化系统行为可预测且不会造成意外的负面后果。这包括技术措施如冗余设计和紧急停止机制。
Summary
指设计为不会对人类、财产或环境造成 …
安全性
Definition
AI安全性是一个多学科领域，专注于防止先进人工智能带来的不良后果。它涵盖了对齐、可解释性和鲁棒性等技术挑战，以及治理框架的开发。
Summary
研究和实践确保AI系统不造成物 …
隐私
Definition
在人工智能领域，隐私指的是在数据收集、模型训练和推理阶段，保护敏感用户信息免受未经授权的访问或滥用。它涉及……
Summary
个人控制其个人信息在AI系统中如何被收集、使用和共 …
政策
Definition
在人工智能和技术治理的背景下，政策指的是规范人工智能系统应如何开发、部署和监控的正式框架。这些文档构成了组织内部对AI伦理、安全性和合规性的基本约束。
Summary
由组织制定 …
偏见
Definition
在 AI 伦理中，偏见指的是算法决策中的系统性且不公平的歧视，通常源于有偏见的训练数据或有缺陷的模型设计。这可能导致对特定人群的不利影响，因此在开发 AI 系统时需特别关注公平性 …