双曲正切 (Tanh)
Definition
双曲正切（Tanh）函数是一种非线性激活函数，常用于神经网络。它将输入值压缩到(-1, 1)区间内，提供零中心的输出，这有助于加速收敛。
Summary
Tanh（双曲正切）是一 …
Mathematics
统计学习理论
Definition
统计学习理论（SLT）是统计学和计算机科学的一个分支，研究特定算法如何从有限的训练样本泛化到未见过的数据。它侧重于对泛化误差进行界限分析，以确保模型在未知数据上的表现。 …
所罗门诺夫的归纳推理理论
Definition
由雷·所罗门诺夫开发，该理论通过根据序列的复杂性为其分配概率，提供了一种通用的归纳模型。它主张更简单的解释（即较短的程序）具有更高的先验概率，从而为机器学习和人工智能中的模式识别 …
S型函数
Definition
S型函数定义为 σ(z) = 1 / (1 + e^-z)，广泛用于机器学习中对概率进行建模。它将输入值压缩到 (0, 1) 范围内，使其适用于二分类问题的输出层。 …
用于学习的近端梯度方法
Definition
近端梯度方法是一种迭代优化技术，当损失函数包含可微分的平滑项和不可微分的正则项（如L1范数）时使用。该算法通过将平滑部分的梯度下降步骤与非平滑部分的近端算子（proximal …
模式理论
Definition
模式理论为理解如何通过模式来描述复杂对象和现象提供了严谨的数学基础。它认为任何对象都可以通过其
Summary
一种通过分析数据空间中的模式来描述复杂结构的数学框架。
Key …
归一化
Definition
常见方法包括最小-最大缩放和Z分数标准化。此过程确保具有较大量级的特征不会主导学习算法，特别是在基于梯度的优化中。
Summary
归一化是一种数据预处理技术，将数值特征缩放到标 …
线性预测函数
Definition
在统计建模和机器学习中，线性预测函数表示输入特征的加权和加上偏置项。它是广义线性模型（GLM）的核心组成部分。
Summary
一种计算输入变量的线性组合以预测结果的数学函数。 …
各向同性位置
Definition
在凸几何和高维概率中，如果一组点或凸体的质心位于原点，且其协方差矩阵是标量乘以
Summary
凸体的一种几何变换，使其惯性矩阵与单位矩阵成比例，从而简化分析。
Key …
博弈论
Definition
博弈论是应用数学的一个分支，用于建模理性主体之间的战略互动。它分析了其中一个参与者的成功取决于其他人选择的情境。关键概念包括纳什均衡等。
Summary
对理性决策者之间战略互动 …
加贝分离定理
Definition
加贝分离定理是数学逻辑中的一个基本概念，特别是在时序逻辑和模态逻辑的研究中。它提供了在何种条件下逻辑系统可以被分解或分离的条件。
Summary
非经典逻辑中的一个结果，指出某些 …
FrontierMath
Definition
FrontierMath是一个专门的评估套件，用于测试大型语言模型在复杂数学问题解决方面的极限。与标准的算术基准不同，它侧重于高水平（high-scoring）的数学推理能力评 …
形式概念分析
Definition
FCA为分析对象与其属性之间的关系提供了严谨的框架，最终形成一种称为概念格的层级结构。它广泛应用于知识发现、数据挖掘和语义网开发，帮助理解复杂数据结构中的内在联系。 …
差分隐私
Definition
差分隐私通过向查询结果或模型参数添加经过校准的统计噪声，提供强有力的隐私保障。它量化了关于任何单个个体信息泄露的最大程度。
Summary
一种严格的数学框架，确保包含或排除任何 …
维度灾难
Definition
维度灾难是指在高维空间中分析数据时出现的各种现象，这些现象在低维设置中不会出现。随着特征数量的增加，数据点在空间中的分布变得极其稀疏，使得基于距离的算法（如K近邻）难以找到有意义 …
混沌
Definition
混沌理论研究起始参数的微小变化如何导致复杂系统中截然不同的结果。在人工智能领域，理解混沌行为对于模型稳定性分析和复杂系统模拟至关重要。
Summary
在人工智能中，混沌指的是复 …
自动化数学家
Definition
自动化数学家利用机器学习和符号推理来探索超越人类直觉的数学空间。这些系统可以生成假设、验证证明并发现模式。
Summary
一种旨在通过计算搜索和推理发现新数学定理、猜想或证明的 …
AIXI
Definition
AIXI 是由马库斯·胡特（Marcus Hutter）提出的理论框架，定义了一个理想化的智能体。它将用于预测环境的索洛莫夫归纳法与用于决策的强化学习相结合，旨在从理论上描述最优 …
向量
Definition
在人工智能中，向量是一种用于以数值形式表示信息的基本数据结构。它由一个有序的数字列表（元素）组成，将实体的特征映射到多维空间中。
Summary
一种数学对象，表示具有大小和方向 …
优化
Definition
在机器学习中，优化指的是用于调整模型参数以最小化损失函数的算法，从而提高模型性能。常见方法包括梯度下降及其变体（如随机梯度下降、Adam等）。
Summary
通过最小化或最大化 …
损失函数
Definition
损失函数也被称为成本函数或误差函数，它提供一个标量值，指示模型的执行表现。在训练过程中，优化算法利用该值来计算梯度，从而更新模型参数以最小化误差。
Summary
在训练期间量化 …
梯度下降
Definition
梯度下降是一种用于寻找可微函数局部最小值的一阶迭代优化算法。在机器学习中，它沿梯度的反方向更新模型权重，以逐步降低损失。
Summary
一种迭代优化算法，通过调整模型参数来最小 …
激活函数
Definition
激活函数为神经网络引入非线性，使其能够学习数据中的复杂模式和关系。如果没有这些函数，多层网络的行为将退化为线性变换，无法处理复杂任务。
Summary
根据输入信号确定神经网络节 …
随机
Definition
随机性是AI的基础，用于初始化模型权重、打乱数据集以及在训练过程中引入随机性以防止过拟合。由于计算机是确定性的，AI系统……
Summary
缺乏可预测模式的属性，通常在AI中通 …
点
Definition
AI 语境中的点通常表示特征空间或嵌入向量中的离散坐标。例如，在 K-Means 等聚类算法中，每个数据样本都被视为多维空间中的一个点，通过计算点之间的距离来进行分组。 …
数值型
Definition
在人工智能和数据科学的背景下，数值型指涉及定量值的数据类型或方法，例如整数、浮点数和小数。与分类数据或文本数据不同，数值型
Summary
涉及或使用数字或数学计算，而非符号逻辑 …
潜在
Definition
在机器学习中，潜在变量是影响观测数据的未观察因素。在神经网络中，特别是自编码器和扩散模型中，潜在空间代表压缩的、抽象的
Summary
指模型内部空间中捕获数据关键特征的隐藏变量 …
线性
Definition
线性运算涉及乘法和加法，不包含非线性激活。在神经网络中，线性层（或密集层）对输入向量应用权重矩阵变换。虽然线
Summary
描述输出与输入成正比的操作或关系，构成神经层仿射变换 …
朗之万
Definition
朗之万动力学结合了随机噪声和阻尼力，以高效地探索能量景观。在人工智能中，它主要用于采样方法，如哈密顿蒙特卡洛（Hamiltonian Monte Carlo）或随机梯度朗之万动力 …
群
Definition
在数学和理论计算机科学中，群是一个集合G连同满足四个公理的二元运算：封闭性、结合律、单位元和逆元。在AI中，群论被用于…
Summary
一种基本的数学结构，由一个 …