AI用語辞典

A comprehensive multilingual AI terminology dictionary

Definition

量子化は、機械学習モデルのパラメータの数値精度を下げ、通常は32ビット浮動小数点数を8ビット整数に変換することでモデルを最適化する技術です。これにより、…

Summary

量子化されたとは、サイズとレイテンシーを削減するために、重みや活性化値を低精度の数値で表すニューラルネットワークモデルを指します。

Key Concepts

Use Cases