Local_llm

Definition

GGUF（GPT-Generated Unified Format，GPT生成统一格式）是一种专为在消费级硬件上运行大型语言模型而设计的二进制文件格式。它支持各种量化技术，允许模 …