统一模型
Definition
统一模型是指能够执行各种不同任务(如文本生成、图像识别和代码合成)的人工智能系统,而无需依赖单独的专业模型。
Summary
旨在单个框架内处理多项任务或多模态数据的AI架构。 …
统一模型是指能够执行各种不同任务(如文本生成、图像识别和代码合成)的人工智能系统,而无需依赖单独的专业模型。
旨在单个框架内处理多项任务或多模态数据的AI架构。 …
机器人流程自动化(RPA)采用软件机器人(通常增强有AI功能)来模拟人类与数字系统的交互。它用于简化工作流程,如数据录入、发票处理等,从而提高效率并减少错误。
使 …
该术语指代 Qwen 家族中的一种专用架构,可能利用了混合专家(Mixture of Experts, MoE)设计。在此类模型中,仅激活神经网络参数(即“专家”)的一个子集,从 …
量化是一种模型优化技术,它降低了机器学习模型参数的数值精度,通常将 32 位浮点数转换为 8 位整数。这种方法可以在保持模型性能基本不变的情况下,显著减少内存占用并加速推理速度。 …
剪枝涉及识别并消除神经网络中对输出准确率贡献最小的神经元、连接或滤波器。通过移除这些冗余元素,模型变得更加紧凑,从而降低存储需求和计算开销,同时尽量保持原有的模型性能。 …
提示微调涉及在预训练语言模型的输入层添加可训练的软提示(连续向量),同时保持底层模型参数冻结。这种方法允许在几乎不增加计算成本的情况下,使模型适应特定任务或领域,特别适用于资源受 …
在主动学习中,AI系统确定哪些样本最能降低不确定性或提高模型性能,通常通过主动学习或探索策略实现。这与被动接收数据的传统监督学习形成对比,显著提高了数据效率。
一 …
前缀微调是一种用于预训练变换器的参数高效适应技术。与更新所有模型权重不同,它在输入序列前prepend(前置)一系列可训练的连续向量(即前缀),从而冻结主干网络并仅优化少量参数以 …
Phi(基于教学学习范式的基座模型)是微软创建的一系列紧凑型大型语言模型家族。与传统在海量网络语料上训练的LLM不同,Phi主要通过合成数据进行训练,旨在以更小的参数量实现更高的 …
P-Tuning(提示微调)是一种旨在以最低计算成本将大型预训练语言模型适配到特定下游任务的技术。与微调所有模型参数不同,P-Tuning 仅优化少量可学习的提示向量,同时保持预 …
多任务优化涉及训练单个模型同时处理几个不同但相关的任务。通过在任务间共享中间表示,模型可以学习到更通用的特征,从而提高泛化能力和效率。
一种训练策略,使模型能够同 …
该技术利用相关任务之间共享的归纳偏置来提高学习效率 and 性能。通过训练单个模型同时执行多项任务,模型能够学习到更具通用性的特征表示,从而提升整体表现。
多任务 …
混合专家(MoE)是一种旨在提高效率和可扩展性的机器学习架构。MoE 不使用单个大型模型处理所有任务,而是采用多个较小的“专家”网络。
一种架构模式,通过门控机制 …
该类别包括剪枝、量化和知识蒸馏等方法,旨在缩小模型规模的同时保持性能。这对于部署复杂的人工智能模型至关重要,尤其是在资源受限的环境中。
模型压缩是指减少机器学习模 …
Mixtral是一款开创性的开源权重LLM,利用稀疏混合专家(MoE)架构。与每个令牌都使用所有参数的密集模型不同,Mixtral将每个令牌路由通
…
DeepSeek V3是DeepSeek模型家族中的先进迭代版本,其特点是通过混合专家路由机制,在推理过程中仅激活少量参数子集。这种稀疏激活架构使得模型在保持强大推理能力的同时, …
业务流程自动化 (BPA) 涉及利用软件和人工智能来简化复杂的业务工作流程。与仅处理基于规则任务的简单机器人流程自动化 (RPA) 不同,BPA 通常……
使用技 …
批处理涉及在执行计算或模型推理之前,将数据输入聚合为一个组(即批次)。与实时流处理相比,这种方法允许对数据进行批量操作,从而提高效率。
一种计算方法,数据随时间收 …
AutoML(自动化机器学习)通过自动化数据预处理、特征工程、模型选择和超参数调整等任务,简化了ML模型的开发。它使得非专家也能使用。
一种自动化将机器学习应用于 …
自动化决策(ADM)依靠软件系统做出以前需要人类判断的选择。常见于信用评分、内容审核和物流领域,ADM使用预定义的规则。
算法基于数据输入独立选择行动或结果,而无 …
主动学习通过允许模型选择最具信息量的实例进行人工标记,减少了所需标记数据的数量。与被动接收随机样本不同,算法会主动识别那些最能提升模型性能的数据点进行查询。
一种 …
零样本学习使机器学习模型能够对训练数据集中未出现的类别实例进行分类。它不依赖每个可能类别的标记示例,而是利用类别之间的语义关系进行推理。
零样本学习是一种技术,模 …
QLoRA 将低秩适应(LoRA)与 4 位量化相结合,显著减少了微调大规模模型所需的内存占用。通过将权重存储为 4 位格式并添加训练好的低秩适配器,该方法在保持性能的同时降低了 …
少样本学习旨在使模型能够从寥寥几个示例中进行泛化,模仿人类的学习效率。它通常依赖于元学习策略,即模型先在一系列相关任务上进行预训练,从而获得快速适应新任务的能力,即使这些新任务只 …
适配器是一种参数高效的微调技术,主要用于大型语言模型和Transformer架构中。与计算成本高昂的更新所有模型权重不同,适配器仅训练少量新增参数,从而保留预训练知识并降低资源消 …
免训练方法是指在不通过反向传播更新底层权重的情况下修改模型行为或输出的技术。这些方法通常利用提示工程、特征提取或其他非参数化手段来实现适配。
无需执行基于梯度的参 …
预训练模型是一种基础人工智能模型,已在海量且多样化的数据集(如维基百科或ImageNet)上进行了广泛训练。这种初始训练使模型能够学习到广泛通用的特征表示。
预训 …
低成本 AI 专注于效率,旨在降低与机器学习相关的入门壁垒和运营成本。这包括模型压缩、量化等技术…
指在保持功能的同时最小化计算、 …
迁移学习利用预训练模型来提高在新且相关任务上的性能并减少训练时间。开发人员无需从头开始训练,而是对现有权重进行微调,从而利用先前学到的知识。
一种机器学习技术,将 …
Mamba 通过引入硬件感知的选择性状态空间模型(SSM),代表了序列建模领域的重大进步。与随着序列长度呈二次方扩展的传统 Transformer 不同,Mamba 能够高效处理 …
LoRA冻结预训练模型的权重,并在Transformer架构的每一层中插入可训练的分解矩阵。通过仅优化这些低秩矩阵,LoRA显著减少
低秩自适应是一种参数高效的微 …
在AI语境中,“直接”通常描述绕过中间抽象层的架构或推理路径,例如强化学习中的直接策略优化或在端到端系统中直接映射输入到输出。
指将输入直接映射到输出的方法或路 …
AI中的自动化涉及使用算法和系统来执行传统上需要人力完成的任务。它通过执行预定义的规则或学习到的模式,专注于提高效率、一致性和速度。
指由机器或软件以最少的人工干 …