规则归纳
Definition
规则归纳是一种符号机器学习方法，直接从数据中推导“如果-那么”规则。与产生不透明权重的神经网络不同，规则归纳生成的是可解释的模型，便于人类理解和验证。
Summary
一种机器学 …
Interpretability
多语义性
Definition
多语义性是深度神经网络（特别是Transformer架构）中的一种特征，即单个神经元可能对几个不相关或语义不同的特征激活做出响应。
Summary
神经网络中的单个神经元对多个不 …
欧文·埃文斯
Definition
欧文·埃文斯是一位计算机科学家和教育家，目前与人工智能安全中心（Center for AI Safety）有关联，此前曾在 Anthropic 工作。他因在机械可解释性领域的贡献 …
神经符号人工智能
Definition
神经符号人工智能将亚符号的神经学习方法与基于符号逻辑的推理系统相结合。这种混合方法旨在克服纯深度学习的局限性，例如缺乏可解释性（lack of explainability）和逻 …
机械可解释性
Definition
机械可解释性侧重于逆向工程神经网络，以在单个神经元、权重和电路的层面上理解它们如何计算特定功能。这种方法不将模型视为黑盒，而是试图揭示其内部工作原理，从而提供对模型决策过程的透明 …
可解释人工智能
Definition
随着机器学习模型变得越来越复杂，特别是深度神经网络，其决策过程往往变得不透明的“黑盒”。XAI旨在使这些决策具有可解释性。
Summary
可解释人工智能（XAI）是指应用人工智 …
ExBERT
Definition
ExBERT通过分析不同层中单个注意力头的重要性，为BERT Transformer模型提供可解释性。它使用基于梯度的归因或其他技术来量化每个组件对最终预测的贡献，从而帮助理解模 …
决策列表
Definition
决策列表是一种机器学习模型类型，它将知识表示为条件规则的序列。每个规则由一个条件和预测的类别标签组成。当对新数据进行分类时…
Summary
一种可解释的分类器，由 …
类激活映射
Definition
CAM 在输入图像上叠加热力图，以显示哪些像素对模型针对特定类别标签的决策贡献最大。它通过对最终卷积层应用全局平均池化来工作，从而定位关键特征区域。
Summary
类激活映 …
黑盒（black-box）
Definition
在人工智能中，黑盒模型指的是像深度神经网络这样的复杂系统，其内部决策逻辑是不透明的，难以被人解释。虽然这些模型通常能取得…
Summary
内部机制被隐藏，仅能观察 …
理解
Definition
AI的理解超越了统计相关性，旨在解释数据背后的潜在含义。对于语言模型而言，这涉及掌握句法、语义和语用学，以生成连贯且合乎逻辑的输出。
Summary
在人工智能中，指模型能够理解 …