Definition
在AI工程背景下,追踪涉及捕获数据在模型或应用程序中流动的详细信息日志,包括每一步的输入、输出、延迟和资源使用情况。这有助于全面监控系统的运行状况。
Summary
追踪是一种记录程序或AI模型推理过程中的执行路径和中间状态的技术,旨在辅助调试和性能优化。
Key Concepts
- 执行路径
- 延迟测量
- 调试
- 可观测性
Use Cases
- 调试大语言模型(LLM)提示链
- 优化推理延迟
- 审计模型决策过程
A comprehensive multilingual AI terminology dictionary
在AI工程背景下,追踪涉及捕获数据在模型或应用程序中流动的详细信息日志,包括每一步的输入、输出、延迟和资源使用情况。这有助于全面监控系统的运行状况。
追踪是一种记录程序或AI模型推理过程中的执行路径和中间状态的技术,旨在辅助调试和性能优化。