模型提取
Definition
模型提取涉及查询目标机器学习模型的 API,以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型,从而窃取知识产权或绕过安全限制。
Summary
一种攻击方式, …
模型提取涉及查询目标机器学习模型的 API,以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型,从而窃取知识产权或绕过安全限制。
一种攻击方式, …
后门攻击涉及使用特定的模式(称为触发器)对机器学习模型的训练数据进行投毒。虽然模型在干净数据上表现正常,但在检测到触发器时会激活错误的行为,例如将特定图像错误分类为指定标签, …
泽滕策略是一种基于规则的博弈方法,用于多智能体谈判。它计算智能体为推动其首选结果而愿意承担的最大风险,定义为智能体在坚持立场时可能遭受的效用损失与其在妥协时的效用损失之比, …
湿件计算是指生物神经元(通常在体外培养)作为主要处理单元,取代传统基于硅的硬件的系统。这些系统利用生物神经元的并行处理能力和低能耗特性进行信息处理。
一种利用活体 …
WebSocket是一种计算机通信协议,能够在客户端和服务器之间建立持久且双向的通信。与HTTP不同,HTTP需要为每个请求-响应周期建立新连接,而WebSocket允许在单个连 …
湿件最初指生物脑组织,但在控制论和超人类主义中已演变为描述作为计算系统的人类思维或大脑。它与“硬件”(物理设备)和“软件”(指令集)形成对比。
指生物大脑或活体组 …
该研究所由瓦德瓦尼基金会提供巨额捐赠成立,利用先进的机器学习和计算机视觉技术解决大规模的社会问题。其主要…
瓦德瓦尼人工智能研究所是一家研究机构,致 …
视频超分辨率涉及使用神经网络将视频内容从较低分辨率(例如 480p)上采样到较高分辨率(例如 4K),同时保留细节并减少伪影。与
视频超分辨率(VSR)是一种计算 …
vLLM(Virtual Large Language Model)是一个旨在加速 LLM 服务的开源库。它引入了 PagedAttention, …
通用心理测量学涉及开发和应用评估工具,以可靠地测量人格、认知能力或情商等心理构念,并跨越不同文化背景。
应用标准化测量技术来评估不同人群的心理特质。
思维树(ToT)通过允许模型在每个步骤中探索多个不同的推理路径并形成树状结构,扩展了传统的思维链提示方法。模型会对这些路径进行评估,以决定后续行动。
思维树是一种 …
这一概念指的是人工智能技术在全球金融系统中引入脆弱性的历史及预测事件序列。它涵盖了早期算法交易引发的市场动荡,到近年来由深度学习模型驱动的复杂风险传播路径,再到监管机构试图通过压 …
三因子学习是强化学习中的一种特定方法,它将学习过程分解为三个不同的组成部分:奖励信号、价值函数和策略。奖励信号提供即时反馈,价值函数评估长期预期收益,而策略则决定智能体的行动选 …
文生视频指的是基于自然语言输入创建动态视觉内容的生成式 AI 模型。这些系统分析文本提示中的语义含义,以合成连贯的视频序列。
文生视频是一项通过文本描述或提示生成 …
该术语由佩德罗·多明戈斯在其同名著作中提出,“终极算法”描述了一个理论上的机器学习统一框架,能够复制所有人类的学习过程。它设想了一种能够整合各种学习范式的通用智能。 …
文本生成推理(TGI)是一个专用的软件框架,旨在以低延迟和高吞吐量服务大型语言模型(LLM)。它针对文本生成的推理过程进行了深度优化,包括连续批处理和张量并行等技术,从而显著提升 …
当机器学习模型相对于较旧的数据点不成比例地赋予近期观测值更高权重时,就会发生时间偏差。这通常是由于数据分布的非平稳性或特定的训练协议所致。
一种系统性误差,模型倾 …
符号回归是一种回归分析类型,旨在找到通常表示为树结构的数学表达式,以最优地拟合观测数据。与传统回归不同,它不预设函数形式。
符号回归是一种搜索最佳拟合数据集的数学 …
超级心智AI指的是多个AI组件、人类专家或混合人机团队无缝协作,形成集体智能的系统,其能力超过任何单一个体。
一种旨在将多个智能体或模型整合为一个统一的、增强的认 …
统计关系学习(SRL)将概率论与关系数据结构相结合,使模型能够捕捉实体及其关系之间的依赖性。与标准统计方法不同,SRL能够同时处理对象属性和对象间的复杂关联。
一 …
统计学习理论(SLT)是统计学和计算机科学的一个分支,研究特定算法如何从有限的训练样本泛化到未见过的数据。它侧重于对泛化误差进行界限分析,以确保模型在未知数据上的表现。 …
尖峰-厚尾回归(Spike-and-slab regression)是一种用于变量选择和稀疏建模的贝叶斯统计技术。它采用由两个部分组成的混合先验分布:一个‘尖峰’(spike,通 …
空间智能是指人工智能模型感知、解释和操作物理或虚拟环境中空间关系的能力。它涉及对空间结构的深入理解,使机器能够像人类一样在复杂环境中进行定位和交互。
AI系统理 …
说话人日志是将音频流根据说话人身份划分为同质片段的任务。它结合了说话人切换检测和说话人聚类技术,旨在为音频中的每一段语音打上说话人身份的标签,实现“谁说了什么”的完整记录。 …
空间嵌入涉及将物理或抽象的空间关系转换为稠密向量空间,使算法能够理解邻近性、方向和拓扑结构。这项技术在需要理解空间布局的任务中至关重要。
一种将对象或位置之间的空 …
主权人工智能描述了一个国家或组织独立构建、部署和管理人工智能系统的能力,而不依赖外国云提供商或专有技术。这旨在维护数据主权、国家安全和技术自主权。
一种战略方法, …
慢速宣传描述的是一种战略性的虚假信息形式,它依赖于重复、模糊性和长期曝光,而非病毒式的震惊战术。其目的是混淆受众、稀释真相并侵蚀…
“Slow”( …
奇点研究是一门新兴的学术学科,旨在调查假设的未来时刻(即人工智能超越人类智能)所带来的影响,从而导致不可控的后果。
一门跨学科领域,考察未来技术奇点对社会、伦理和 …
相似度学习专注于训练模型,将输入映射到向量空间,其中相似的项目彼此靠近,不相似的项目相距较远。常用的技术包括孪生网络和三元组损失函数。
一种机器学习方法,通过学习 …
语义折叠是指将复杂的高维向量嵌入压缩为更易管理的低维表示的过程,且不会造成语义意义的显著丢失。
一种将高维语义表示映射到低维空间同时保留关系结构的技术。
该技术主要用于大型语言模型(LLM),通过采样生成针对同一提示的多个多样化响应来提高准确性。与依赖贪婪解码不同,它聚合
自洽性是一种解码策略,其中采样多个推理路 …
Sam3 Video 指的是将高级分割模型(可能是 Meta 的 Segment Anything Model 的假设性或特定版本)应用于视频数据。它涉及跨帧跟踪对 …
SUPS 是一个首字母缩写词,含义可能因语境而异,但经常出现在专门的 AI 文献中,指代混合学习方法或特定的数据结构。它可能表示结合…的系统
机器人学习涉及利用机器学习技术训练机器人代理自主执行任务。与预编程行为不同,这些系统能够适应动态环境,从而提升其在复杂场景中的表现。
机器人学的一个分支领域,专注 …
重参数化技巧是变分自编码器及其他概率模型中使用的一种基本方法。它通过将随机变量表示为确定性函数和独立噪声变量的组合,使得梯度能够流经随机节点,从而允许使用反向传播算法进行优化。 …
递归自我改进是指人工智能系统理论上能够重写自身的源代码或架构,从而变得更聪明、更高效或具备更强能力的特性。
一种AI系统通过自我修改迭代增强自身智能或能力的过程。 …
Rademacher 复杂度评估假设类与随机标签(噪声)的相关程度。它作为模型容量或灵活性的代理指标。较低的复杂度通常意味着更好的泛化能力。
学习理论中用于量化函 …
这种方法超越了简单的人机回环标注。它涉及双向知识转移:人类纠正模型错误,同时模型协助人类识别模式或自动化任务,从而实现持续的协同改进。
一种协作学习范式,人类和机 …
该术语指代 Qwen 家族中的一种专用架构,可能利用了混合专家(Mixture of Experts, MoE)设计。在此类模型中,仅激活神经网络参数(即“专家”)的一个子集,从 …
通义千问3.5似乎表示通义千问3代系列中的特定检查点、尺寸变体或专业发布版本。虽然具体规格可能有所不同,但它通常意味着从早期版本(如Qwen2或Qwen3基础版)在效率或特定能力 …
量化是一种模型优化技术,它降低了机器学习模型参数的数值精度,通常将 32 位浮点数转换为 8 位整数。这种方法可以在保持模型性能基本不变的情况下,显著减少内存占用并加速推理速度。 …
在 Pyannote Audio 的语境中,流水线指的是一种可配置的工作流,它将不同的模块链接在一起以实现说话人日志。通常,流水线包括用于检
Pyannote …
PyTorch Model Hub Mixin 是 Hugging Face Transformers 库提供的一个组件,它扩展了标准的 PyTorch nn.Module 类。 …
该领域考察人类演绎、归纳和溯因推理背后的心理过程。它探索指导人类思维的偏见、启发式方法和逻辑结构。在人工智能中,对这些心理机制的理解有助于设计更符合人类认知习惯、更具可解释性且能 …
近端梯度方法是一种迭代优化技术,当损失函数包含可微分的平滑项和不可微分的正则项(如L1范数)时使用。该算法通过将平滑部分的梯度下降步骤与非平滑部分的近端算子(proximal …
专家乘积(PoE)是一种通过组合更简单的分布来构建复杂概率分布的方法。与平均概率的“混合专家”(MoE)不同,PoE通过乘法结合各个专家模型的输出。这意味着如果任何一个专家模型认 …
概率数值计算将贝叶斯方法应用于传统的数值问题,如积分、微分和线性代数。它不仅提供点估计,而是输出概率分布,从而允许对计算误差和模型不确定性进行量化评估。
一个将数 …
在主动学习中,AI系统确定哪些样本最能降低不确定性或提高模型性能,通常通过主动学习或探索策略实现。这与被动接收数据的传统监督学习形成对比,显著提高了数据效率。
一 …
前缀微调是一种用于预训练变换器的参数高效适应技术。与更新所有模型权重不同,它在输入序列前prepend(前置)一系列可训练的连续向量(即前缀),从而冻结主干网络并仅优化少量参数以 …
预测状态表示(PSR)扩展了传统的部分可观察马尔可夫决策过程,将状态定义为关于未来可观察事件的预测向量集合。它不依赖于无法直接观测的隐藏状态,而是利用历史动作和观测序列来构建对未 …
多语义性是深度神经网络(特别是Transformer架构)中的一种特征,即单个神经元可能对几个不相关或语义不同的特征激活做出响应。
神经网络中的单个神经元对多个不 …
人格综合体指的是支持多个数字人格的创建、管理和互动的生态系统或基础设施。它涵盖了主要技术与伦理考量,包括身份验证、数据隐私以及不同数字实体间的交互规范。
一个概念 …
感知误差模型描述了观察到的感官数据与真实情况之间的差异,考虑了噪声、遮挡或传感器限制等因素。通过对这些误差进行建模,人工智能系统可以
用于量化和校正感官数据解释中 …
模式理论为理解如何通过模式来描述复杂对象和现象提供了严谨的数学基础。它认为任何对象都可以通过其
一种通过分析数据空间中的模式来描述复杂结构的数学框架。
奇偶校验学习是机器学习理论中的一个基准问题,目标是预测一组二进制输入变量的奇偶性(即异或和)。对于标准的浅层前馈神经网络来说,这个问题 notoriously …
P-Tuning(提示微调)是一种旨在以最低计算成本将大型预训练语言模型适配到特定下游任务的技术。与微调所有模型参数不同,P-Tuning 仅优化少量可学习的提示向量,同时保持预 …
PagedAttention 是由 vLLM 项目引入的一项技术,旨在提高大语言模型推理的效率。它解决了管理 KV 缓存时的碎片化和开销问题,通过将 KV 缓存视为非连续的内存块 …
重叠语音检测(OSD)是语音处理中的一项专门任务,用于定位并发发声的时间间隔。与侧重于“谁在何时说话”的说话人日记不同,OSD专注于检测多人同时说话的重叠区域,以提高自动转录的准 …
新式人工智能(Nouvelle AI)指的是一类利用符号表示与分层处理相结合的人工智能系统。与连接主义模型不同,它侧重于结构化推理。
一种符号人工智能方法,强调受 …
该领域通过将神经网络模型实现到机器人控制系统中, bridging 神经科学与机器人学。它允许研究人员测试关于运动控制、感觉处理和认知机制的假设。
神经机器人学研 …
神经符号人工智能将亚符号的神经学习方法与基于符号逻辑的推理系统相结合。这种混合方法旨在克服纯深度学习的局限性,例如缺乏可解释性(lack of explainability)和逻 …
神经建模场涉及研究神经群体如何在高维空间中组织自身以表征信息。这一概念通常与拓扑映射(topological mappings)和场论(field theory)相关。 …
Muse Spark 是一个开源深度学习框架,旨在高效运行于 Apache Spark 之上。它允许开发人员通过利用分布式集群来训练复杂的神经网络,从而实现大规模并行计算和模型优 …
MXFP4(混合扩展浮点 4 位)是一种专门的数据类型格式,旨在优化 AI 工作负载的性能并减少内存带宽使用。通过允许混合精度操作,它在保持精度的同时显著降低了计算资源消耗。 …
多模态表示学习涉及训练模型以处理和整合来自不同类型数据源(如文本、图像、音频和视频)的信息,将其映射到共享的潜在空间中。
一种同时从多个数据模态中学习统一特征表示 …
多元自适应回归样条(MARS)是一种灵活的回归方法,通过拟合分段线性基函数来建模复杂的非线性关系。它会自动选择断点(knots)并构建基函数,以捕捉数据中的局部变化模式。 …
该技术利用相关任务之间共享的归纳偏置来提高学习效率 and 性能。通过训练单个模型同时执行多项任务,模型能够学习到更具通用性的特征表示,从而提升整体表现。
多任务 …
Moshi 是由 Kyutai 创建的高级 AI 模型,它将语音和文本处理整合到一个统一的框架中。与传统系统在处理后转换语音为文本的系统不同,Moshi 学习联合表示。 …
混合专家(MoE)是一种旨在提高效率和可扩展性的机器学习架构。MoE 不使用单个大型模型处理所有任务,而是采用多个较小的“专家”网络。
一种架构模式,通过门控机制 …
在 GAN 中,当生成器学会利用判别器的弱点,仅产生少量看似合理的样本,而忽略数据分布的其他模式时,就会发生模式崩溃。这种现象会导致生成多样性严重不足。
模式崩溃 …
Mistral Common是由Mistral AI维护的一个Python包,提供与他们的模型交互的标准化工具。它主要提供必要的分词器实现,用于将文本转换为
一个 …
Mixtral是一款开创性的开源权重LLM,利用稀疏混合专家(MoE)架构。与每个令牌都使用所有参数的密集模型不同,Mixtral将每个令牌路由通
…
混合精度训练(MPT)在神经网络训练过程中结合使用半精度(FP16)和全精度(FP32)数据类型。通过使用FP16处理大多数操作,MPT减少了内存占用并提
一种使 …
虽然这不是一个标准的学术术语,但“思维像素”通常指在专业神经技术背景下从神经信号或认知状态中派生的离散信息单位。它可能涉及对大脑活动的细粒度解析。
思维像素是一个 …
元学习专注于设计能够从先前任务中学习以改善在新颖、未见任务上表现的算法。它不是针对每个问题从头开始训练模型,而是优化模型的学习机制,使其具备快速适应新环境的能力。
最大内积搜索(MIPS)是信息检索和机器学习中的一个基本问题,尤其在推荐系统中应用广泛。与衡量余弦相似度的标准搜索不同,MIPS 旨在最大化向量间的点积值,这通常能更准确地反映用 …
流形正则化通过结合数据分布的内在几何结构,扩展了传统的正则化方法。它基于以下假设:高维数据点实际上分布在低维流形上,因此模型应遵循该流形的几何特性以保持平滑性。
…
这项技术通过允许模型在保留通用知识的同时“忘记”特定用户数据,来解决如GDPR“被遗忘权”等隐私法规问题。其目标是近似于从头重新训…
机器遗忘是指在 …
这一假说解释了尽管存在维度灾难,深度学习为何能高效工作。它表明,尽管图像等数据存在于数百万维的空间中,但它们受到内在结构的约束…
假设高维现实世界数 …
机器学习控制将自适应算法与传统控制系统集成,以处理非线性或不确定环境。与静态控制器不同,这些系统能够从运行数据中学习并调整策略,从而在动态变化的环境中保持最优性能。 …
这一跨学科领域利用机器学习处理海量的生物数据,使研究人员能够预测基因功能、对疾病进行分类以及理解分子间的相互作用,从而加速生物医学研究的进程。
应用计算模型分析生 …
MAUVE 是一种统计度量,旨在评估生成语言模型的输出在多大程度上类似于人类语言使用习惯。与简单的困惑度分数不同,MAUVE 使用虚拟嵌入
MAUVE(基于虚拟嵌 …
彩票假设指出,在一个大型随机初始化的神经网络中,存在一个稀疏的子网络(即“中奖彩票”),其初始化状态非常适合训练。通过剪枝掉不重要的权重,仅保留并训练这个子网络,可以在不损失性能 …
局部病例对照采样是一种主要用于训练对比学习模型或推荐系统的策略。它不是随机选择负样本,而是识别出与正例在嵌入空间中距离较近、难以区分的“困难负例”,从而提升模型的判别能力。 …
运行本地 LLM 涉及直接在消费级硬件(如 PC、Mac 或本地服务器)上部署开放权重模型。这种方法消除了对第三方 API 提供商的依赖,确
本地 LLM 指的是 …
在动态系统和时间序列分析中,相关性寿命衡量两个变量保持显著统计依赖性的持续时间。这一概念对于理解模型随时间推移的性能下降至关重要,特别是在金融、气象和物联网等领域,其中变量之间的 …
终身规划A*(LPA*)是为成本随时间变化的环境设计的A搜索算法的扩展。与重新启动搜索不同,LPA维护一个优先级队列并仅更新受更改影响的节点,从而显著提高了在动态图环境中重新规划 …
在统计学习理论中,可学习函数类代表了算法可用的假设空间。它定义了模型潜在能够捕捉的模式或映射的范围,决定了模型的表达能力和泛化潜力。
可学习函数类是由特定模型架构 …
与标准的分类或回归不同,排序学习侧重于预测项目的相对顺序。它使用成对、列表或点式方法来最小化排名误差(如NDCG),从而优化检索结果的质量。
排序学习是一种监督机 …
植根于言语行为理论和语用学,这一视角强调话语如何执行请求、承诺或命令等功能。在自然语言处理中,它指导了意图理解和对话生成的设计。
一种理论框架,主要将语言视为一种 …
柯尔莫哥洛夫-阿诺德网络(KANs)是一类受柯尔莫哥洛夫-阿诺德表示定理启发的新型神经网络。该定理指出任何多元连续函数都可以表示为有限个一元连续函数的复合。与传统神经网络在连接上 …
与依赖过去用户行为的协同过滤不同,KBRS 使用关于物品和用户偏好的显式知识来推导推荐结果。它在数据稀疏的市场中特别有效。
一种通过推理显式领域知识和用户约束来生 …
知识图谱嵌入方法(如 TransE 或 DistMult)将离散的图结构转换为低维稠密向量。这使得机器学习模型能够执行数学运算,从而进行链接预测等任务。
一种将知 …
知识蒸馏是一种机器学习方法,用于将庞大复杂的神经网络(教师模型)压缩为更小、更高效的网络(学生模型)。学生模型经过训练以模仿教师模型的行为。
知识蒸馏是一种模型压 …
KAoS是一个智能代理框架,专为处理大规模分布式企业系统的复杂性而开发。它采用基于策略的方法,将高层管理目标转化为具体的执行策略,从而实现IT基础设施的自动配置、监控和管理,提高 …
在强化学习中,内在动机驱使智能体通过寻求新颖性、减少不确定性或掌握技能来探索其环境,而不依赖于外在的任务奖励。这种机
强化学习中的一个概念,指智能体基于内部好奇心 …
智能控制采用模糊逻辑、神经网络和遗传算法等人工智能方法来调节那些传统数学建模不足或
利用AI技术来管理复杂、非线性或不确定动态过程的控制系统的统称。
该理论认为,学习本质上是一个概率推断的过程。学习者不是通过死记硬背来记忆数据,而是维护一个关于可能模型或假设的概率分布。
一种将学习视为贝叶斯推断的框架,即根据观 …
增量启发式搜索指的是通过启发式算法引导,逐步细化候选解的算法,这些启发式算法估计到达目标所需的成本。与穷举搜索不同,这些方法…
一种搜索策略,利用启 …
归纳偏置代表了内置于机器学习模型中的固有偏好或约束,使其能够从训练数据泛化到未见过的数据。如果没有这些偏置,模型将无法…
学习算法用于预测训练期间未 …
归纳编程,通常称为程序合成,涉及基于作为输入-输出对提供的规范创建软件代码,而不是显式指令。系统从示例中推断出逻辑…
程序合成的一个领域,根据输入- …
图像到视频(Image To Video)技术接收单个静态帧,并预测后续帧以生成连贯的视频序列。这涉及对时间一致性和物理动力学的建模,以确保生成的视频在视觉上自然流畅。该技术允许 …
该领域研究想法形成、组合和演变的背后过程。它应用结构化技术来增强创造力和解决问题的能力。在人工智能背景下,思想学可用于构建自动化创意生成系统。
思想学是研究创意生 …
超参数优化(HPO)指的是自动化选择超参数的更广泛领域。虽然“调优”是一个通用术语,但“优化”通常暗示使用复杂的算法(如贝叶斯优化)来高效地探索超参数空间,从而在有限的计算资源下 …
混合智能系统(HIS)融合了不同的人工智能范式,通常将连接主义方法(如神经网络)与符号方法(如专家系统或模糊逻辑)相结合。这种集成旨在利用各自的优势,克服单一范式的局限性,从而更 …
方向位移直方图(HOD)是一种用于视频分析的特征提取方法,它将HOG(方向梯度直方图)的概念扩展到时间维度。它在光流向量中计算位移的方向和幅度分布,从而能够有效地描述视频片段中的 …
分层风险平价(HRP)是一种投资组合构建方法,通过纳入相关性结构来解决传统均值-方差优化的局限性。它利用层次聚类算法对资产进行分组,并基于聚类树状图在层级结构中分配风险,从而避免 …
分层可导航小世界(HNSW)算法构建了一个多层图结构,其中每一层包含下一层节点的子集。导航从顶层开始,逐步向下移动到更详细的层级,直到找到最近的邻居。这种方法结合了小世界网络的快 …
高速公路网络旨在通过引入自适应门控来控制信息流,从而解决深度学习中的梯度消失问题。类似于LSTM单元,这些门允许网络决定保留多少原始输入信息以及多少经过变换的信息。这使得训练非常 …
Halite是由Two Sigma公司主办的年度AI编程竞赛,开发者在此创建自主代理以在网格上进行回合制策略游戏。目标包括收集资源、种植树木、生产单位以及与其他玩家的代理进行战 …
顿悟学习(Grokking)是指深度学习中观察到的一种反直觉行为:模型在训练数据上长时间过拟合,表现出较差的泛化能力,但在经过漫长的训练周期后,突然在测试集上实现近乎完美的泛化。 …
这种方法通过将数据分组为更高层级的实体或“粒”,而不是处理单个元素,从而模仿人类的认知过程。它涵盖了粗糙集、模糊逻辑等技术。
粒计算是一种在不同抽象层次上处理信息 …
这种优化策略允许深度学习模型使用超出 GPU 显存容量的有效批量大小进行训练。通过从多个小批量中累积梯度并执行权重更新,可以实现这一目标。
梯度累积是一种通过在前 …
GPT OSS 通常指专有生成式预训练 Transformer 模型的开源替代品或衍生项目。这些项目允许开发者访问、修改和部署大型语言模型。
指可供公众修改和分发 …
不存在单一的标准术语“GLM MoE DSA”。然而,它很可能结合了 GLM(一种特定的大型语言模型架构)、MoE(混合专家,一种通过仅激活部分专家来高效扩展模型规模的技术) …
“创世使命”通常指组织内旨在为高级AI能力奠定基础的战略性阶段或项目。这涉及搭建核心基础设施、定义开发标准以及确立伦理准则。该阶段的目标是确保AI系统的引入是可持续、合规且符合组 …
几何特征学习专注于处理具有非欧几里得结构的数据,例如社交网络、分子图或3D网格。传统的卷积神经网络难以直接应用于此类数据,因此该技术利用图神经网络(GNNs)和流形学习等方法,保 …
截至目前的知识,并没有官方发布的专门命名为“Gemma4”的模型,它与现有的 Gemma 2 系列不同。它可能指的是一种推测性的未来发布,或者是特定的内部… …
模糊智能体运行在数据往往具有歧义或不完整的环境中,采用模糊逻辑系统而非二元真假状态。通过使用隶属函数和语言变量,它能够更灵活地应对现实世界中的不确定性。
一种利用 …
力控制使机器人能够通过主动管理接触力而非仅仅控制位置,来执行组装、抛光或抓取易碎物体等精细操作。与纯位置控制不同,力控制允许机器人在遇到阻力时进行适应性调整,从而避免损坏物体或自 …
FCA为分析对象与其属性之间的关系提供了严谨的框架,最终形成一种称为概念格的层级结构。它广泛应用于知识发现、数据挖掘和语义网开发,帮助理解复杂数据结构中的内在联系。 …
基于流的生成模型通过对简单的基分布(如高斯分布)应用一系列可逆且可微的变换来构建复杂的概率分布。由于变换是可逆的,模型可以精确计算似然值,便于密度估计和采样。
一 …
当评估真实适应度函数在计算上昂贵或耗时较长时,适应度近似被用于进化计算中。与其计算精确值,不如使用代理模型来估算适应度,从而加速搜索过程并减少资源消耗。
进化算法 …
特征学习通常与深度学习相关联,使模型能够直接从原始输入数据中学习分层表示,而不是依赖人工特征工程。通过多层网络结构,模型可以自动提取从低级到高级的抽象特征,从而减少对领域专家手动 …
EBL将符号推理与机器学习相结合,以加速学习过程。它不依赖大型数据集,而是采用一个正例并利用预先存在的领域理论。
基于解释的学习是一种机器学习方法,它利用领域理论 …
与维持种群的遗传算法不同,EO作用于单个解。它识别对整体适应度贡献最小的组件,并用随机替代方案替换它。
极值优化是一种受自组织临界性启发的启发式搜索算法,旨在通过 …
ExBERT通过分析不同层中单个注意力头的重要性,为BERT Transformer模型提供可解释性。它使用基于梯度的归因或其他技术来量化每个组件对最终预测的贡献,从而帮助理解模 …
受生物个体发育的启发,ED机器人学探索复杂的行為和物理结构如何通过与环境互动随时间涌现,而不是被硬编码。它利用进化算法优化神经控制器和机器人身体结构,以增强适应性和鲁棒性。 …
等几率公平是算法公平性中使用的一种统计parity约束,旨在确保模型对所有受保护群体具有同等良好的表现。具体而言,它要求模型在不同群体中的真正例率(TPR)和假正例率(FPR)保 …
在强化学习和人工智能中,赋能是一种内在动机指标,量化了智能体对其环境的控制程度。它被定义为智能体的动作与其未来状态之间的互信息,反映了智能体能够产生多少种不同的可预测结果。 …
基于能量的模型(EBM)使用源自能量函数的未归一化密度函数来定义输入数据的概率分布。能量函数将数据点映射到实数,合理的配置具有较低的能量,而不合理的配置具有较高的能量。模型通常通 …
经验动态建模(EDM)是一种分析非线性动力系统的框架,它利用观测数据而不假设特定的参数形式。该方法依赖于Takens嵌入定理,通过重建状态空间来揭示系统内部的因果结构和动态规律。 …
由Google开发,EfficientNet使用复合缩放方法来平衡网络深度、宽度和输入图像分辨率。这种方法使模型能够在保持参数效率的同时达到最先进的准确率水平。
该领域挑战了将心智视为处理抽象符号的计算机的传统观点。相反,它认为认知过程深深植根于身体的物理特性之中,强调身体、心智和环境之间的紧密联系。
具身认知科学是一个理 …
该术语指期望最大化(EM)算法与高斯混合模型(GMM)之间的协同关系。GMM假设所有数据点都是由多个分布混合生成的,而EM算法则通过迭代方式优化这些混合成分的参数(如均值、协方差 …
领域自适应解决了训练数据和测试数据来自不同分布的挑战。通过对齐有标签的源领域和无标签或稀疏标签的目标领域之间的特征表示,该方法能够提升模型的泛化能力。
一种通过利 …
该术语指 Hugging Face Diffusers 库中专为视频生成设计的特定实现。它集成了 Stable Video Diffusion (SVD) 模型,这是一种潜在视频 …
机器人歧视是一个新兴的伦理和社会学概念,研究人类如何可能基于其非人类本质而不公平地对待、不信任或给人工智能代理分配负面属性。这种现象探讨了当机器表现出类人行为时,人类反应中的偏见 …
该管道将 Qwen-Vision-Language 模型的能力集成到 Diffusers 框架中,以根据自然语言指令执行精确的图像修改。与生成式管道不同……
该管道调整了 Qwen-VL 模型的生成能力以用于图像合成。它允许用户通过提供文本提示或将文本与参考图像结合来生成高质量图像……
在 Diffusers …
该管道利用以高质量图像合成著称的 Flux 架构,并将其集成到 Diffusers 框架中。它支持上下文机制,使模型能够考虑周围环境信息。
Diffusers 库 …
差分隐私通过向查询结果或模型参数添加经过校准的统计噪声,提供强有力的隐私保障。它量化了关于任何单个个体信息泄露的最大程度。
一种严格的数学框架,确保包含或排除任何 …
向 Azure 部署涉及利用云原生工具,如 Azure Machine Learning、Azure Kubernetes Service (AKS) 或 Azure …
描述逻辑(DL)是一阶逻辑的可判定片段,构成了本体论的理论基础,特别是网络本体语言(OWL)。它们允许对概念及其关系进行精确定义和自动推理。
一类形式化的知识表示 …
深度层析重建代表了相对于传统代数或解析方法(如滤波反投影)的重大进步。通过利用卷积神经网络(CNNs),该方法能够更有效地处理逆问题,从而在数据质量较低的情况下实现高精度的图像重 …
深度学习超级采样(DLSS)是一项利用神经网络从较低分辨率输入重建高分辨率图像的技术。通过分析时间数据和空间信息…
一种利用人工智能将低分辨率图像放 …
深度学习抗锯齿是指利用神经网络减轻混叠伪影的方法,混叠伪影发生在高频信号以不足的速率采样时。在计算机图形学…
使用神经网络减少渲染图像或下采样特征中 …
搜索问答数据集通常由从搜索结果中提取的搜索查询和相关答案片段或文档对组成。这些数据集对于训练模型理解用户意图至关重要。
一个专注于源自搜索引擎日志或网络查询的问答 …
此条目指代标识符为 ‘Jackrong/Qwen3.5 Reasoning 700X’ 的特定数据集仓库。它通常用于监督微调(SFT)或强化学习等场景,旨 …
该数据集从 Stack Exchange XML 文件中提取句子级别的数据,提供了丰富的技术讨论、代码片段和问题解决对话资源。它专门用于…
Specter 数据集构建于庞大的计算机科学论文集合之上,利用引用网络创建监督学习信号。它将摘要与其引用论文配对以…
一个基于计算机科学出版物和引用 …
PAQ(伪答案质量)数据集包含从维基百科中提取的数百万个自动生成的问答对。它是专门为提供训练稠密检索器所需的数据而设计的。
一个源自维基百科的大规模问答对数据集, …
数据驱动天文学利用先进的计算方法,包括机器学习和统计分析,来处理现代望远镜和巡天项目产生的海量数据。它使得从复杂的天文数据中发现新的现象和规律成为可能。
应用大规 …
DABUS 是一种专门设计的人工神经网络,旨在无需人类直接干预的情况下生成新颖的发明。当其创造者斯蒂芬·塔勒试图为其申请专利时,该系统引起了巨大的法律关注……
这种对抗性技术旨在通过改变训练数据来破坏机器学习模型的完整性。通过引入细微的错误或有偏见的示例,攻击者可以使模型……
数据投毒是一种安全攻击手段,恶意行为者向训练 …
交叉熵法(CEM)是一种强大的通用优化算法,用于解决离散和连续问题。它通过维护搜索空间上的概率分布来工作,并通过迭代更新该分布以聚焦于高性能样本,从而逐步优化解决方案。 …
代价敏感机器学习通过为不同类型的错误分配不同的惩罚来扩展传统的监督学习。在现实场景中,假阳性和假阴性往往具有不同的后果…
一种将误分类代价纳入训练过 …
耦合模式学习者旨在处理来自两个不同空间且相互关联的数据实例,例如图像及其文本描述。通过建模联合分布或相关性…
一种算法方法,同时学习两个不同但相关的 …
持续学习,也称为终身学习,使神经网络能够随着时间的推移获得新技能或信息,同时保留以前学到的能力。这解决了“灾难性”(遗忘)问题。
一种机器学习范式,模型从新数据中 …
对比式语言-图像预训练(CLIP)是一种在图像及其对应的互联网标题上训练的神经网络架构。它使用对比目标来最大化共现(图像-文本对的相似度)。
一种多模态预训练方 …
对比学习是一种不需要标记数据的表示学习方法。它通过对同一输入创建增强视图(正样本对)并将它们与不同的(负样本)进行对比来工作。
一种自监督学习技术,通过将正样本对 …
联结主义专家系统将神经网络(联结主义)的模式识别和学习优势,与传统符号系统的显式知识表示和逻辑推理能力整合在一起。
一种将神经网络学习能力与符号推理结构相结合的智 …
宪法人工智能是一种框架,旨在使大型语言模型与人类价值观保持一致,而无需在每个步骤都完全依赖人类反馈。它涉及创建一套高层级的“宪法”原则,让模型根据这些原则进行自我修正和对齐。 …
概念漂移是机器学习中的一种现象,即随着新数据的到来,输入特征与目标输出之间的关系会发生变化。这在用户行为动态变化的环境中经常发生。
当目标变量的统计特性随时间发生 …
条件随机场(CRF)是一类判别式模型,常用于自然语言处理和生物信息学。与生成模型不同,CRF直接对给定输入序列下标签序列的条件概率进行建模。
条件随机场是一种判别 …
压缩张量是深度学习中使用的多维数组,其数值精度(例如从float32降至int8)或稀疏性已降低。这种技术被称为量化或剪枝。
通过降低数据精度或大小以优化存储和计 …
连贯外推意志(CEV)是由埃利泽·尤德科夫斯基在人工智能安全与对齐背景下提出的概念。它建议先进的人工智能不应仅仅服从当前人类的命令,而应通过理想化的推理过程,外推并实现人类深层 …
认知机器人学将认知科学与机器人技术相结合,构建能够感知环境、从经验中学习并做出自主决策的机器。这些机器人采用先进的…
认知机器人学是专注于创造具有人 …
认知计算是人工智能的一个分支,旨在以自然方式与人类交互,同时模拟人脑过程。这些系统使用机器学习、深度学习…
认知计算是指通过计算机化模型模拟人类思维 …
CAM 在输入图像上叠加热力图,以显示哪些像素对模型针对特定类别标签的决策贡献最大。它通过对最终卷积层应用全局平均池化来工作,从而定位关键特征区域。
类激活映 …
该方法利用同一数据点的多个不同特征集(视图)。最初,在每个视图的小规模标注数据集上训练两个分类器。随后,它们对未标记数据进行预测,并仅选择高置信度的标签来辅助对方模型的训练。 …
混沌理论研究起始参数的微小变化如何导致复杂系统中截然不同的结果。在人工智能领域,理解混沌行为对于模型稳定性分析和复杂系统模拟至关重要。
在人工智能中,混沌指的是复 …
该指标量化了一组类别在多大程度上允许人们预测这些类别内属性的值。它在类别大小与其内容同质性之间取得平衡,是概念学习和聚类评估中的重要指标。
类别效用是一种数学度 …
布拉德利-特里模型是一种概率模型,广泛用于心理测量学和机器学习中以处理成对比较。它为每个项目分配一个潜在分数,计算概率……
一种用于分析成对比较数据的统计模型,估 …
生物宁静指的是人类生物学与人工智能无缝、非冲突地和谐运作的概念理想。它强调伦理整合,确保人工智能的增强作用……
一种生物生命与人工智能系统和谐共存的理论状态。 …
偏差-方差权衡描述了欠拟合(高偏差)和过拟合(高方差)之间的张力。高偏差模型对数据做出强烈假设,可能会忽略相关关系;而高方差模型则过于关注训练数据中的噪声。
监督 …
生物混合系统将活体组织、细胞或生物体与合成材料和电子设备相结合。这些系统旨在利用生物实体的独特特性,如自修复能力、能量效率和适应性,从而创造出具有生物功能的智能设备。 …
贝叶斯编程是一种数学框架,它将贝叶斯定理泛化以处理复杂的多层概率依赖关系。它允许开发者定义分层模型,其中变量之间存在条件依赖结构,从而能够更灵活地建模不确定性。
…
贝叶斯结构化时间序列(BSTS)模型将时间序列数据表示为可解释组件(如趋势、季节性和回归效应)之和,同时通过贝叶斯方法处理不确定性。这种方法允许对各个组件的影响进行单独推断,从而 …
贝叶斯遗憾量化了在拥有完美信息时可实现的最佳奖励与智能体在不确定性下行动所获得的预期奖励之间的差异。它是通过对所有可能的世界状态进行积分计算得出的,反映了决策者在信息不完全情况下 …
贝叶斯学习机制利用贝叶斯定理更新关于模型参数的信念,将先验知识与观测数据相结合以形成后验分布。与频率学派方法不同,它明确量化了参数的不确定性。
将模型参数视为具有 …
这一概念确立了:使用特定核函数最小化正则化风险泛函,等价于在贝叶斯框架中寻找最大后验概率(MAP)估计。具体来说,它揭示了确定性核方法与概率性高斯过程之间的深层联系。 …
球树将数据点划分为嵌套的超球体(球),而不是超矩形。这种结构允许通过计算距离来进行高效的剪枝,从而加速最近邻查询。
一种用于组织空间中点的二叉树数据结构,优化高维 …
自动谈判涉及代表人类利益进行讨价还价的软件代理。这些代理利用博弈论、优化算法和机器学习来提出报价、评估对手策略并达成最优协议,常用于商业交易和资源分配场景。
使用 …
自治网络将自治计算的原则应用于电信网络,使系统能够在极少人工干预的情况下自我管理。这些网络利用人工智能检测故障、优化流量并自动重新配置,以确保高可用性和性能。
利 …
自诊断技术是指嵌入在智能系统中的自我监控和自我修复机制。它允许AI代理检测异常、诊断故障的根本原因,并可能进行自我修复。
人工智能系统在不依赖人工干预的情况下,自 …
天体统计学是连接统计学与天文学的专业领域。它涉及开发和应用严谨的统计技术,以应对天文数据带来的独特挑战,例如处理海量观测数据、噪声建模以及从稀疏或不完整的数据中提取物理参数。 …
音频修复是一种用于填补由信号丢失、噪音或有意掩码导致的录音空白区域的技术。利用生成式模型,系统根据缺失部分周围的上下文信息预测最可能的内容,从而恢复音频的完整性和自然度。这在历史 …
人工繁殖包括促进或复制无需直接性交的生物生殖过程的技术,大量利用技术,并越来越多地利用AI进行优化…
利用生物技术和AI辅助或复制生物生殖过程,通常 …
人工亲密关系是指人类与聊天机器人、虚拟助手或社交机器人等人工代理之间产生真实情感纽带的心理现象。这些系统被…
用户与模拟同理心、陪伴和个人互动的AI …
灵性中的人工智能指将人工智能应用于宗教或沉思语境。这包括提供道德建议的聊天机器人、用于冥想的AI生成艺术,或用于分析神学文本的算法。
新兴的交叉领域,其中人工智能 …
人工大脑指的是模拟人脑神经结构和处理方法的硬件或软件架构。这包括复制神经元活动的神经形态计算芯片等。
一种旨在模仿生物人脑结构和功能的计算系统,通常使用神经网络。 …
任意到任意指的是统一的 multimodal 架构,能够处理各种输入-输出组合,例如文本到图像、图像到文本或音频到视频。与专用模型不同,这些系统具有更高的灵活性。
学徒学习,也称为基于演示的逆强化学习,使智能体能够通过观察专家行为来获取技能,而不是完全依赖奖励函数。
一种强化学习方法,智能体通过模仿专家的演示来学习策略。 …
算法概率根植于柯尔莫哥洛夫复杂性和所罗门诺夫归纳法,它为由较短程序生成的输出分配更高的概率。它假设更简单的解释更有可能为真。
一种理论度量,用于评估随机程序生成特 …
这种现象源于AI模型因种族、性别、年龄或其他敏感属性而无意中或系统地对待个体不同。它通常源于有偏见的训练数据或
当自动化系统基于受保护的特征产生不公平或有偏见的结 …
它扩展了传统逻辑以涵盖代理性,允许系统表示信念、欲望和意图(BDI模型)。这种逻辑使智能体能够根据变化的环境动态规划行动。
代理逻辑是指用于建模自主智能体意图、目 …
对抗攻击通过向图像或文本等输入引入细微噪声,利用神经网络的漏洞,导致模型输出出现显著错误。这些攻击突显了模型在面临恶意输入时的脆弱性。
对抗攻击是一种技术,通过在 …
该领域既包括破坏模型的进攻性技术,也包括加固模型的防御策略。它涉及在对抗样本上训练模型以提高其韧性,这一过程被称为对抗训练。
对抗机器学习是一个研究领域,旨在研究 …
动作模型学习涉及智能体构建内部表示,以了解其行为如何将环境从一个状态转移到另一个状态。与被动观察不同,这种方法利用智能体自身的行动反馈来学习环境的变化规律。
一种 …
演员-评论家算法包含两个组件:演员负责更新策略以选择动作,评论家则通过估计价值函数来评估这些动作的质量。两者协同工作,以提高强化学习的稳定性和效率。
一种结合基于 …
AZFinText 是一个大规模标注语料库,专门针对中文金融文本分析而策划。它包括带有金融情感标签的新闻文章、报告和社会媒体帖子,旨在支持高精度的金融自然语言处理任务。 …
“AI素食主义”是一个推测性和隐喻性的术语,指代这样一种理念:创造完全从合成数据、自生成数据或物理世界数据中学习的人工智能,而不是重新使用人类产生的数据。
一个隐 …
AI完备问题是那些如果得以解决,就暗示了人工通用智能(AGI)存在的任务。这些问题需要类似人类的深刻理解、推理能力和适应性。
极其复杂的问题,解决它需要类似人类的 …
AI可观测性将传统的软件监控扩展到解决机器学习系统的独特挑战。它涉及实时跟踪模型性能、数据漂移和推理延迟,从而帮助开发者深入理解黑盒模型的决策过程及其在生产环境中的行为。 …
AI民族主义描述了各国政府将人工智能视为国家安全和经济主权问题的趋势。各国在国内AI研究上投入巨资,限制关键技术出口,并试图建立独立的技术生态系统,以确保在全球AI竞赛中的领先地 …
AI 对齐旨在解决如何让人工智能系统稳健地执行用户真正意图的任务,而非仅仅字面指定的任务。它涉及确保系统行为有益的技术方法。
致力于确保 AI 系统行为符合人类价 …
零样本学习使机器学习模型能够对训练数据集中未出现的类别实例进行分类。它不依赖每个可能类别的标记示例,而是利用类别之间的语义关系进行推理。
零样本学习是一种技术,模 …
视觉语言模型通常被称为多模态大语言模型(MLLMs),它们整合了计算机视觉和自然语言处理技术。这些模型使AI能够理解图像并生成相应的文本描述或回答。
视觉语言模型 …
监督微调(SFT)涉及采用大型预训练模型(如语言模型),并在较小的高质量、针对特定下游任务标注的数据集上继续训练该模型。
在特定数据集上进一步训练预训练模型,使其 …
自监督学习是一种技术,算法从无标签数据本身创建监督信号,通常通过预测输入的缺失部分来实现。它弥合了无监督学习和…
一种训练方法,模型从输入数据中生成 …
ReAct 框架使大语言模型能够以交错的方式生成推理轨迹和特定于任务的行动。通过模拟类人的思维过程,它允许模型与外部环境进行交互(原文截断,意为 interaction with …
RNN 旨在识别数据序列中的模式,例如文本、基因组、手写体或语音。与前馈网络不同,它们具有内部记忆,能够捕获关于先前输入的信息(原文截断,意为 captures …
QLoRA 将低秩适应(LoRA)与 4 位量化相结合,显著减少了微调大规模模型所需的内存占用。通过将权重存储为 4 位格式并添加训练好的低秩适配器,该方法在保持性能的同时降低了 …
提示注入利用大语言模型解释用户指令的方式,通过在输入文本中嵌入隐藏或冲突的指令来 exploit 这一特性。这可能导致模型忽略其原始的系统设定或安全限制。
一种对 …
多示例学习(MIL)解决的是数据被分组为具有单一标签的“包”,而包内的各个实例未标记的场景。通常,如果一个包中包含至少一个正例实例,则该包被标记为正例;否则为负例。 …
多智能体系统由多个独立智能体组成,每个智能体可能专注于不同的任务或领域。这些智能体通过通信和协调行动来实现共同目标。这种分布式方法提高了系统的鲁棒性和灵活性,适用于需要并行处理和 …
模型上下文协议(MCP)是一种开放标准,使AI应用能够以统一的方式连接各种数据源,如数据库、API和文件系统。它抽象了连接细节,允许开发人员轻松构建可移植的AI助手,并确保不同系 …
LSTM网络通过使用细胞状态和三个门控机制(输入门、遗忘门和输出门),解决了标准RNN中常见的梯度消失问题。这些门控机制调节信息的流动,使网络能够记住或忘记特定信息。 …
越狱涉及设计特定的输入或提示,诱骗 AI 模型忽略其内置的安全指南并生成禁止的内容,例如仇恨言论、危险指令或非法建议。
一种旨在绕过 AI 模型安全过滤器和伦理约 …
联邦学习使组织能够在不共享敏感原始数据的情况下协作训练人工智能模型。与集中信息不同,模型被发送到本地设备,在那里进行局部学习,然后将更新后的参数聚合到全局模型中,从而在保护隐私的 …
少样本学习旨在使模型能够从寥寥几个示例中进行泛化,模仿人类的学习效率。它通常依赖于元学习策略,即模型先在一系列相关任务上进行预训练,从而获得快速适应新任务的能力,即使这些新任务只 …
这些模型将高维数据映射到低维连续向量空间中,其中相似的项目彼此靠得更近。这种转换捕捉了语义关系,使得…(原文截断)
嵌入模型将文本或图像等原始数据转 …
这一概念通过提供对模型如何得出特定预测的洞察,解决了复杂人工智能系统中的“黑盒”问题。SHAP 或 LIME 等技术有助于可视化特征重要性…(原文截断) …
分布式训练通过在多个 GPU 或节点上并行化计算来加速模型收敛。主要技术包括数据并行(每个工作进程处理数据子集)和模型并行(将模型的不同部分分布在不同设备上),以处理大规模数据集 …
在序列到序列(Seq2Seq)模型中,解码器接收由编码器生成的上下文向量,并逐步生成目标输出。它利用注意力机制来关注输入序列的相关部分,从而准确预测下一个输出元素。 …
思维链(CoT)提示通过明确要求模型阐述其逐步逻辑,从而提升大型语言模型在复杂推理任务上的表现。与直接跳跃到最终答案不同,CoT引导模型展示其思考过程,这有助于解决需要多步逻辑推 …
适配器是一种参数高效的微调技术,主要用于大型语言模型和Transformer架构中。与计算成本高昂的更新所有模型权重不同,适配器仅训练少量新增参数,从而保留预训练知识并降低资源消 …
注意力机制使模型在处理输入(特别是文本等序列数据)时能够关注相关信息。通过计算注意力分数,模型确定哪些元素对当前任务最相关,从而捕捉长距离依赖关系并增强上下文理解。 …
零样本学习使模型能够泛化到新的类别或任务,而这些类别或任务在初始训练阶段没有提供标记的训练数据。这通常是通过利用语义嵌入或预训练知识来实现的。
在没有先前训练示例 …
自监督学习是机器学习的一个子集,其监督信号自动从数据本身派生,消除了手动标注的需求。模型通常通过解决预设的代理任务来学习数据的内在结构和表示。
自监督学习是一种技 …
多智能体系统由多个独立的智能实体组成,它们感知环境、做出决策并据此行动。这些智能体之间可能相互合作、竞争或协商。
一种系统架构,其中多个自主智能体在环境中相互作 …
在线策略算法要求智能体直接从其当前策略所采取的动作中学习。这意味着在探索过程中收集的数据被立即用于更新策略,从而确保数据分布的一致性。
一种强化学习方法,其中被评 …
长视界问题涉及一系列动作,其中早期决策的影响仅在许多步骤后才显现。这在机器人技术、规划和多步推理任务中很常见。挑战…
指需要在较长时间范围内进行决 …
基于扩散的模型是一类生成式AI,它们通过从随机分布中迭代去除噪声来创建新的数据样本。该过程始于一个前向阶段,即缓慢地向数据中添加高斯噪声,直到数据变为纯噪声;随后通过训练神经网络 …
Wasserstein距离,也称为地球移动距离(Earth Mover’s Distance),通过计算将质量从一个分布移动到另一个分布所需的“最小工作量”来量化两个 …
连续时间模型使用微分方程描述系统动态,允许状态随时间平滑演化。在人工智能中,这体现在神经常微分方程(Neural ODEs)等应用中…
一种建模方 …
向量数据库通过将非结构化数据转换为数值嵌入(embeddings)来优化其存储和检索。它们使用近似最近邻(ANN)等算法,以高效地查找相似性。
一种专为存储、索引 …
Transformer架构在《Attention Is All You Need》论文中被提出,彻底革新了自然语言处理及更多领域。它使用多头自注意力机制来权衡输入序列中不同部分的 …
自注意力使模型能够同时捕捉序列中所有位置之间的依赖关系,无论距离远近。通过计算每对标记之间的注意力分数,它使得……
一种允许神经网络根据彼此之间的相对重要性来权衡 …
AI安全性是一个多学科领域,专注于防止先进人工智能带来的不良后果。它涵盖了对齐、可解释性和鲁棒性等技术挑战,以及治理框架的开发。
研究和实践确保AI系统不造成物 …
强化学习(RL)是机器学习的一个分支,专注于智能体应如何在环境中采取行动以最大化累积奖励的概念。与监督学习不同,强化学习不依赖标记数据,而是通过试错和奖励信号进行学习。 …
检索增强生成(RAG)结合了基于检索和基于生成的AI系统的优势。RAG不仅仅依赖预训练语言模型的参数,而是首先从外部数据源检索相关上下文信息,将其作为输入提供给模型,从而生成更准 …
“先验”代表了在纳入新观测值之前,关于某个变量的现有信念或历史数据。在贝叶斯推断中,先验与观测数据的似然度相结合,以更新对该变量的认知,形成后验分布。
在贝叶斯统 …
预训练是深度学习中的一种基础技术,模型从海量数据中学习广泛的特征和模式,通常无需标签。这一过程使模型能够发展出通用的知识表示,从而在后续针对特定下游任务进行微调时,仅需少量数据即 …
神经网络是一系列算法,通过模拟人类大脑运作的方式,试图识别一组数据中的潜在关系。它由层组成
一种受生物大脑启发的计算系统,由组织成层的互连节点或神经元组成。 …
多头注意力通过并行运行多次标准注意力机制(使用不同的学习到的线性投影)来扩展标准注意力机制。这使得模型能够联合关注来自不同位置的不同表示子空间的信息。
Mamba 通过引入硬件感知的选择性状态空间模型(SSM),代表了序列建模领域的重大进步。与随着序列长度呈二次方扩展的传统 Transformer 不同,Mamba 能够高效处理 …
LoRA冻结预训练模型的权重,并在Transformer架构的每一层中插入可训练的分解矩阵。通过仅优化这些低秩矩阵,LoRA显著减少
低秩自适应是一种参数高效的微 …
在机器学习中,潜在变量是影响观测数据的未观察因素。在神经网络中,特别是自编码器和扩散模型中,潜在空间代表压缩的、抽象的
指模型内部空间中捕获数据关键特征的隐藏变量 …
朗之万动力学结合了随机噪声和阻尼力,以高效地探索能量景观。在人工智能中,它主要用于采样方法,如哈密顿蒙特卡洛(Hamiltonian Monte Carlo)或随机梯度朗之万动力 …
在数学和理论计算机科学中,群是一个集合G连同满足四个公理的二元运算:封闭性、结合律、单位元和逆元。在AI中,群论被用于…
一种基本的数学结构,由一个 …
扩散模型是一类生成式AI,它们学习逆转向数据添加噪声的随机过程。通过训练神经网络逐步预测并去除噪声,它们能够生成高质量的新数据样本。
一种生成建模技术,通过逆转逐 …
在人工智能中,因果建模旨在理解对某一变量的干预如何影响另一变量。与依赖观察模式的预测模型不同,因果AI使用结构方程模型等工具来揭示变量间的内在机制。
因果推断涉及 …
在AI术语背景下,“超越”通常描述超越当前能力的新兴范式或未来方向,例如通用人工智能(AGI)或量子增强计算等。
一个概念性术语,指超出当前技术限制或AI传统边界 …
蒙特卡洛方法是AI和统计学中用于近似难以解析求解的复杂数学问题的关键技术。通过生成成千上万个随机样本来估算结果。
指蒙特卡洛方法,这是一类依赖重复随机采样以获得数 …
AI中的贝叶斯方法利用概率论,随着更多证据的出现来更新假设的可能性。这种方法允许模型量化不确定性并动态优化预测结果。
指基于贝叶斯定理的统计方法,用于根据新证据更 …
卷积神经网络(CNN)旨在从视觉输入中自动且自适应地学习特征的空间层次结构。它们利用卷积层应用滤波器来检测局部模式,并通过池化等操作逐步提取高层语义特征。
一类专 …
反向传播(Backpropagation),即误差反向传播,是一种用于人工神经网络的方法,旨在计算损失函数关于权重的梯度。它通过将误差信号从输出层向输入层反向传播,并利用链式法则 …
AI 安全涵盖旨在确保自主系统以有益且对人类无害的方式行事的研究和实践。它解决诸如偏见、错误信息、安全性漏洞以及系统失控等风险,致力于构建可靠、可信赖且符合伦理的 AI 系统。 …
对齐关注的是确保 AI 系统执行人类真正希望它做的事情,而不仅仅是字面上要求它做的事。它涉及诸如来自人类反馈的强化学习(RLHF)等技术,旨在缩小模型输出与人类期望之间的差距,提 …