吞吐量
Definition
在人工智能工程中，吞吐量是一个关键的性能指标，用于指示系统容量。对于大语言模型（LLMs），它通常以每秒令牌数（tokens per second）来衡量；对于计算机视觉模型，则 …
Engineering
SentencePiece
Definition
SentencePiece 是一个流行的开源文本归一化和分词库，广泛用于现代自然语言处理管道中。它执行联合词块和子词词汇表的无监督学习。
Summary
一种无监督文本分词器和去 …
可观测性
Definition
在人工智能工程中，可观测性指的是通过分析机器学习系统的外部输出来理解其内部状态的能力。它超越了传统的监控，旨在提供对复杂系统运行状况的深入洞察。
Summary
可观测性是衡量能 …
模型注册表
Definition
模型注册表是 MLOps 中的关键组件，提供用于存储、版本控制和管理的统一仓库。它使团队能够跟踪模型元数据、性能指标等。
Summary
用于在整个机器学习生命周期中跟踪和管理模 …
基于知识的配置
Definition
该方法在知识库中采用约束满足技术，以确保组装的产品符合所有技术和客户要求。它通过编码规则来防止无效的组合。
Summary
一种自动化过程，利用领域特定的知识库，根据用户约束生成 …
智能控制
Definition
智能控制采用模糊逻辑、神经网络和遗传算法等人工智能方法来调节那些传统数学建模不足或
Summary
利用AI技术来管理复杂、非线性或不确定动态过程的控制系统的统称。
Key …
GraphQL
Definition
由 Facebook 开发，GraphQL 提供了对 API 中数据的完整且易于理解的描述，赋予客户端只请求所需数据的能力。它取代了传统的 REST API 模式，减少了过度获取 …
前瞻技术
Definition
这一概念涉及设计具有前瞻性能力的AI系统，使其能够模拟潜在结果并主动适应变化。它整合了预测分析、情景规划和风险管理，旨在提高系统的鲁棒性和决策质量，从而在问题发生前进行干预。 …
实验跟踪
Definition
这种做法涉及在训练过程中记录超参数、数据集版本、模型架构和性能指标。它使数据科学家能够比较不同的实验配置。
Summary
实验跟踪是系统记录机器学习实验的元数据、指标和工件的过 …
Eagle
Definition
Eagle代表了在大语言模型领域内的一种特定架构和工程框架，主要侧重于训练效率和可扩展性的优化。它通过改进底层实现和分布式策略，帮助研究人员和企业更快速地训练和部署大规模语言模 …
裁剪
Definition
在深度学习工程中，裁剪通常应用于梯度以缓解梯度爆炸问题，确保反向传播的稳定性。它也可以指在应用激活函数之前限制输出 logits 的范围。
Summary
裁剪是一种限制数值（如 …
缓存
Definition
在AI工程中，缓存通过将最近或频繁的查询结果、模型预测或中间计算保留在快速内存（如RAM）中来优化性能。这减少了昂贵的主数据存储访问需求，从而显著提升系统响应速度。 …
论证框架
Definition
论证框架为表示论点及其之间的攻击和防御提供了数学基础。在AI工程中，它们帮助系统通过权衡证据做出透明且可辩护的决策。
Summary
用于建模和解决AI系统中竞争性主张或决策之间 …
算法选择
Definition
算法选择涉及评估不同的计算方法，以确定哪一种能最高效地解决给定任务。此过程考虑的因素包括时间复杂度、空间复杂
Summary
算法选择是根据性能指标和约束条件，为特定问题选择最合 …
AI基础设施
Definition
AI基础设施涵盖了人工智能运营所需的基础技术栈。这包括高性能计算硬件（如GPU和TPU）、云存储解决方案以及支持数据流动的网络架构，旨在确保AI系统的高效运行和扩展能力。 …
AI可观测性
Definition
AI可观测性将传统的软件监控扩展到解决机器学习系统的独特挑战。它涉及实时跟踪模型性能、数据漂移和推理延迟，从而帮助开发者深入理解黑盒模型的决策过程及其在生产环境中的行为。 …
测试
Definition
AI 工程中的测试涉及使用多样化的数据集严格评估模型，以识别偏见、错误和鲁棒性问题。它包括对代码组件的单元测试、集成测试等。
Summary
系统地评估 AI 模型在未见过数据上 …
软件开发工具包
Definition
SDK 是一组软件开发工具，允许开发人员为特定平台或服务创建应用程序。对于 AI 而言，SDK 提供预建的库、API 和实用程序来…
Summary
提供用于构建应 …
模型上下文协议
Definition
模型上下文协议（MCP）是一种开放标准，使AI应用能够以统一的方式连接各种数据源，如数据库、API和文件系统。它抽象了连接细节，允许开发人员轻松构建可移植的AI助手，并确保不同系 …
延迟
Definition
延迟衡量AI服务的响应速度，通常以毫秒为单位表示。它包括推理时间、网络传输延迟和处理开销。低延迟对于实时应用至关重要。
Summary
AI系统中请求发起与响应开始之间的时间延 …
权衡
Definition
在人工智能和工程领域，权衡指的是在优化相互冲突的目标（如模型准确率与计算成本，或延迟与精度）时所需的平衡。由于资源有限，必须在不同指标之间做出取舍。
Summary
一种妥协，即 …
机器人（复数）
Definition
机器人涵盖了一类多样化的机器，可根据其移动能力、结构或应用领域进行分类。该类别包括工业机械臂、自主移动机器人（AMR）、无人机等。
Summary
指代多个旨在自主执行任务的可编 …
构建
Definition
构建指的是创建AI解决方案的端到端工程过程，包括数据收集、模型选择、训练、验证和部署。它涵盖了技术支持的基础设施。
Summary
从初始设计到生产就绪阶段，开发、训练和部署AI …