b12291

原文：b12291

vulkan：允许使用 CM2 进行反量化 KV 优化 (#31526) 附加 FA 测试用例 辅助：Codex vulkan：允许使用 CM2 进行反量化 KV 优化 使用 coopmat2 启用 KV 反量化优化，由基于查询标记*GQA 比率的启发式方法进行保护。在这样做时，我们发现某些头部尺寸的加速非常大，这是因为这些头部尺寸被错误地处理为

正文由本站服务器抓取保存（已自动过滤广告、推荐位与追踪图片），排版与原站可能不同；版权归原站所有。