AtomicChat 在 Hugging Face 发布基于 DeepSeek-V4.1-Flash-1017 的社区 GGUF 衍生版本,组合 GSQ-RCO 量化和行为调整,并公开各个量化档位的测试记录。这是社区维护的版本,并非 DeepSeek 官方发布。
模型卡列出了与对应原始量化档位的比较,包括分布偏移、MMLU 与推理任务表现。作者注明,并非所有档位都通过全部评测门槛;运行时还需要配套 Engram 文件,目前说明中的部署路径使用 Strata。
来源:Hugging Face · AtomicChat/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-GGUF