b12293：cpu：在 F32 中累积闪存注意力 V (#29810)

原文：b12293: cpu: accumulate flash attention V in F32 (#29810)

cpu：在单块内核中的 F32 中累积闪存注意力 V 单块内核在 F16 运行总和中积累了 F16 V 缓存，仅在最后进行归一化，在长上下文上溢出超过 65504：inf，然后在每个后续标记上为 NaN。现在，每个 V 类型都会在 F32 中累积，就像平铺内核一样。 F16 行经过 ggml_vec_mad_f16_f32，它以相同的方式进行转换和乘法

正文由本站服务器抓取保存（已自动过滤广告、推荐位与追踪图片），排版与原站可能不同；版权归原站所有。