我注意到 MACaQ 的 2 Hessian 细化可以应用于任何 GGUF，无需任何补丁......并尝试了它。量化指标提高 13%

原文：I noticed the 2 Hessian Refinement of MACaQ can be applied to any GGUF without any patches ... and tried it. 13% better quants

TLDR：Qwen3.8-27B UD_4_XL Quant 的 KL 散度比 unsloth 小 13.23%（在我的小型测试集上，我只有一个 5090，请随意测试更多）。从技术上讲，它在我的 LiveCodeBench 基准测试中的性能提高了 4%（但这将是单个数据点，因此它不是超级可靠）。它同样快，并且在 open-webui 中使用它“感觉”更好。 https://huggingface.co/christophedevriese/Qwen3.8-27

正文由本站服务器抓取保存（已自动过滤广告、推荐位与追踪图片），排版与原站可能不同；版权归原站所有。