流式处理
Definition
流式处理指在数据生成时实时或近实时地持续摄入和处理数据。与处理固定数据集的批处理不同，流式系统管理无边界的数据流，能够即时响应数据变化。
Summary
一种数据处理范式，信息以 …
Infrastructure
主权人工智能
Definition
主权人工智能描述了一个国家或组织独立构建、部署和管理人工智能系统的能力，而不依赖外国云提供商或专有技术。这旨在维护数据主权、国家安全和技术自主权。
Summary
一种战略方法， …
无服务器
Definition
无服务器架构允许开发人员构建和运行应用程序，而无需管理服务器基础设施。云提供商会根据需求自动扩展或缩减资源，并按实际使用情况收费，从而降低运维复杂性。
Summary
一种云计算 …
速率限制
Definition
速率限制保护 AI 服务和 API 免受滥用、过载和过度资源消耗的侵害。它通过限制吞吐量确保用户间的公平使用，并维持系统稳定性。常见的策略包括令牌桶或漏桶算法。
Summary
…
英伟达
Definition
英伟达是人工智能行业的主导力量，主要以其设计的图形处理器（GPU）而闻名，这些GPU加速了深度学习所需的并行计算任务。其CUDA平台…
Summary
一家专注 …
最后一公里
Definition
“最后一公里"问题指的是将模型部署到生产环境中时遇到的挑战，包括与现有基础设施的集成、确保低延迟推理以及处理边缘计算场景。
Summary
将AI解决方案从 …
Kubernetes
Definition
Kubernetes（通常缩写为K8s）是一个由Google开发的容器编排系统。它自动化了应用程序容器在集群中的部署、扩展和操作。通过提供声明式配置和服务发 …
智能数据库
Definition
智能数据库利用机器学习和AI增强标准数据库功能，超越简单的存储和检索。它可以自动优化查询性能，预测用户
Summary
集成AI能力以自动化数据管理、查询优化和洞察生成的数据库系 …
人工智能硬件
Definition
人工智能硬件指的是针对机器学习工作负载所需的巨大并行处理能力进行优化的专用计算设备。这包括用于通用并行计算的图形处理器（GPU），以及专门针对张量运算定制的张量处理单元（TPU） …
图形处理器
Definition
GPU（图形处理器）是一种高性能处理器，最初是为处理图形渲染任务而开发的。与拥有少量针对顺序串行处理进行优化的核心的CPU不同，GPU包含数千个核心，使其能够同时执行大量计算任 …
特征存储
Definition
特征存储在数据工程和机器学习团队之间起到桥梁作用，为批量训练和实时推理提供统一的特征视图。它通过确保训练时使用的特征与在线推理时使用的特征完全一致，解决了训练-服务偏差问题，并支 …
AI的环境影响
Definition
该术语指与AI技术相关的显著资源需求，特别是在大型模型的训练阶段。它涵盖了数据中心使用的电力、制造硬件所需的资源以及模型运行期间的碳足迹。随着AI模型规模的扩大，其对环境的影响日 …
边缘计算
Definition
边缘计算通过在数据生成附近（如物联网设备、传感器或本地网关）处理数据，解决了以云为中心架构的延迟和带宽限制。在AI领域，边缘计算使得模型能够在设备端直接运行推理，从而实现低延迟响 …
算力
Definition
在人工智能中，算力代表了训练模型和运行推理所需的基础设施。它包括CPU、GPU和TPU等硬件组件，以及相关的软件优化和资源调度能力。
Summary
算力是指用于在AI系统中执行 …
电路
Definition
在人工智能领域，电路通常指底层硬件架构，如专为加速矩阵运算和并行处理而设计的 GPU、TPU 或神经形态芯片。这些硬件构成了 AI 计算的基础设施。
Summary
电路是指执行 …
CIML社区门户
Definition
CIML社区门户作为专注于计算智能的学术和专业社区的数字枢纽。它提供对数据集、预训练模型、研究论文等资源的访问权限，旨在加速知识传播与创新合作。
Summary
一个集中的在线平 …
批处理
Definition
批处理涉及在执行计算或模型推理之前，将数据输入聚合为一个组（即批次）。与实时流处理相比，这种方法允许对数据进行批量操作，从而提高效率。
Summary
一种计算方法，数据随时间收 …
自治网络
Definition
自治网络将自治计算的原则应用于电信网络，使系统能够在极少人工干预的情况下自我管理。这些网络利用人工智能检测故障、优化流量并自动重新配置，以确保高可用性和性能。
Summary
利 …
智能体框架
Definition
它作为多智能体系统的骨干，提供编排、监控和智能体间协调的工具。该框架确保智能体能够高效运行而不相互干扰。
Summary
智能体框架（Agent harness）是管理系统中多 …
AI 数据中心
Definition
AI 数据中心是优化用于运行人工智能应用（特别是深度学习训练和推理）的物理设施。这些中心具备高密度服务器机架、先进的散热管理和高速网络连接。
Summary
专为托管和运营 AI …
模型服务
Definition
模型服务涉及将静态的训练模型封装在可扩展的基础设施中，以处理传入请求、执行推理并返回结果。关键挑战包括管理延迟、优化吞吐量以及确保高可用性。通过容器化和服务网格技术，模型服务使 …
Docker
Definition
Docker 使开发人员能够将应用程序及其所有依赖项打包成一个标准化的软件开发单元。这些容器将软件与其运行环境隔离开来，确保了一致性。
Summary
Docker 是一个用于在 …
分布式训练
Definition
分布式训练通过在多个 GPU 或节点上并行化计算来加速模型收敛。主要技术包括数据并行（每个工作进程处理数据子集）和模型并行（将模型的不同部分分布在不同设备上），以处理大规模数据集 …
大规模
Definition
大规模指的是 AI 系统中组件的规模，通常涉及数十亿参数、太字节级的训练数据或分布式计算集群。这种方法构成了…
Summary
描述使用海量数据、参数或计算资源运行 …
安全性
Definition
AI安全性包括旨在保护机器学习模型、数据管道和部署基础设施免受对抗性攻击、数据投毒和模型逆向工程等威胁的措施。
Summary
保护人工智能系统免受未经授权的访问、滥用和恶意攻击 …
本地
Definition
在人工智能领域，“本地”通常指直接在用户的硬件（如笔记本电脑或智能手机）上执行操作，而无需依赖远程服务器。这种方法增强了数据隐私并减少了延迟。
Summary
指在特定设备上处理 …
云
Definition
云计算为AI工作负载提供了可扩展的基础设施，使开发人员无需维护物理数据中心即可访问强大的GPU和存储空间。它支持各种服务模型，如基础设施即服务（IaaS）和平台即服 …
API
Definition
API 定义了一套用于构建软件和应用程序的协议与工具。在 AI 领域，API 使开发人员能够访问强大的模型（如大语言模型或图像生成器），而无需在本地托管这些模型，从而简化了集成过 …