Zyphra ZYFA:适用于 AMD MI355X 的 FP8 FlashAttention,速度提升高达 1.76 倍
原文:Zyphra ZYFA: FP8 FlashAttention for AMD MI355X, Up to 1.76x Faster
Zyphra 发布了适用于 AMD Instinct MI355X 的 ZYFA、开源 FP8 和 BF16 预填充注意力内核。在实际模型激活中,其 FP8 内核的运行速度比 AMD 的 AITER 快 1.16-1.76 倍,在头部尺寸 128 时误差降低 62-78%。Zyphra ZYFA 帖子:适用于 AMD MI355X 的 FP8 FlashAttention,速度快达 1.76 倍首先出现在 MarkTechPost 上。
正在把原文抓到本机服务器…首次约 3~8 秒,抓好后本站永久缓存,下次秒开。
抓不到时可直接看原文(部分站点需要登录/反爬,服务器也无法抓取)。
正文由本站服务器抓取保存(已自动过滤广告、推荐位与追踪图片),排版与原站可能不同;版权归原站所有。