AI术语词典

A comprehensive multilingual AI terminology dictionary

Definition

量化是一种模型优化技术,它降低了机器学习模型参数的数值精度,通常将 32 位浮点数转换为 8 位整数。这种方法可以在保持模型性能基本不变的情况下,显著减少内存占用并加速推理速度。

Summary

量化后的指神经网络模型中权重和激活值以较低精度的数字表示,以减少模型大小和推理延迟。

Key Concepts

Use Cases