HF blog·· 2 天前AI 评分10
mradermacher 发布 SEAD-SAGE-4B 的 GGUF 静态量化版本
mradermacher/SEAD-SAGE-4B-GGUF · Hugging Face
AI 导读
mradermacher 为 SEAD-SAGE-4B 发布了 GGUF 静态量化版本,暂未提供 weighted/imatrix 量化。已提供从 Q2_K(1.9 GB)到 f16(8.9 GB)的多档量化,其中 Q4_K_S 与 Q4_K_M 标注为快速、推荐,Q6_K 为质量很好,Q8_0 为快速且最佳质量。
来源:HF blog · huggingface.co