‹ r/LocalLLaMA

用于量化的权重空间编程:Nace Quants 将 Qwen 9B、27B、35B 和 Flash Next 的 KL 散度提高了 2 倍 [GGUF]

原文:Weight Space Programming for Quantization: Nace quants achieve up to 2x better KL divergence for Qwen 9B, 27B, 35B & Flash Next [GGUF]

r/LocalLLaMA 未缓存正文

嘿 llamas,它是来自 nace.ai(最新人工分析决策索引 v2.1 的 #1 决策模型背后的开源人工智能实验室)和 Kapitsa(针对苹果芯片的优化推理)的 Alish。正如上一篇文章中所承诺的,我们将发布基于 Qwen 9B、27B、35B 和 Flash-Next 的 Nace 量化的 GGUF 权重。我将在下面描述我们如何提出这些量化的过程,所以请跳过

正文没能搬到本站:该站禁止服务器(机房 IP)抓取,返回 site,换任何浏览器标识都拿不到。在手机上打开原站往往又慢又卡,下面先把收录到的内容给你。

打开原文 ↗

本站会持续尝试重新抓取;也可以收藏这条,正文抓到后会永久保留。

打开原文 ↗

正文由本站服务器抓取保存(已自动过滤广告、推荐位与追踪图片),排版与原站可能不同;版权归原站所有。

相关报道同一事件 / 同分类