Quantization

Definition

Imatrix（Importance Matrixの略）は、主にGGMLベースのLLM（大規模言語モデル）のトレーニングおよび量子化に関連する技法です。これは、損失関数の二階微 …