b12274
原文：b12274
llama ：添加 FP8 KV 缓存支持 ( #28392 ) 添加 FP8 KV 缓存支持 将缩放后的 FP8 KV 缓存测试添加到 test-backend-ops 修复 get_*_scale 映射并在绳索移位之前取消 FP8 独立于投影布局标准化缓存缩放名称。虽然融合 KQV 目前对于非共享秤不切实际，但无论启用 Gemma 4 Assistant 与 FP，这都是对未来使用的改进
正在把原文抓到本机服务器…首次约 3~8 秒，抓好后本站永久缓存，下次秒开。
抓不到时可直接看原文（部分站点需要登录/反爬，服务器也无法抓取）。
正文由本站服务器抓取保存（已自动过滤广告、推荐位与追踪图片），排版与原站可能不同；版权归原站所有。