HF blog·· 2 天前AI 评分22
Hugging Face 发布 jevhome-L-int8:约 396M 参数 int8 决策模型
jevhome/jevhome-L-int8 · Hugging Face
AI 导读
Hugging Face 上线 jevhome-L-int8,这是 jevhome-L 的动态 int8 量化版本,约 396M 参数,可在普通 CPU 上单次前向返回校准概率,速度更快且体积约为原来的 1/4。
来源:HF blog · huggingface.co