‹ r/LocalLLaMA

在 30090 + 64GB 上,错误率比 Strata 3XS 低 50%,比 UD v3.1 3XXS 错误率低 27%,TPS 提高 120+/速度提高 12%

原文:50% lower error than Strata 3XS, 27% lower error than UD v3.1 3XXS, with 120+ TPS/ 12% faster, on a 30090 + 64GB

r/LocalLLaMA 未缓存正文

大家好!自 Strata 发布以来的过去几周,我收到了很多将 Qwen Flash Next 添加到 LlamAmpere 的请求。这是一些非常令人印象深刻的工程,但最初发货的模型(3XS 和 2XS)显示出非常差的质量(仅 3XS 变体的 KL​​D 为 0.17+,它使用比 Unsloth 等更常见的来源轻得多的压缩公式)。我最初的工作是 llamAmpere 运行 20% f

正文没能搬到本站:该站禁止服务器(机房 IP)抓取,返回 site,换任何浏览器标识都拿不到。在手机上打开原站往往又慢又卡,下面先把收录到的内容给你。

打开原文 ↗

本站会持续尝试重新抓取;也可以收藏这条,正文抓到后会永久保留。

打开原文 ↗

正文由本站服务器抓取保存(已自动过滤广告、推荐位与追踪图片),排版与原站可能不同;版权归原站所有。

相关报道同一事件 / 同分类