英特尔 Arc Vulkan 预填充在 llama.cpp master 中获得了专用的 FA 内核
原文:Intel Arc Vulkan prefill got a dedicated FA kernel in llama.cpp master
我们为 Intel Arc 和 Xe 提供了全新的专用 Vulkan Flash Attention 预填充内核,可在 ARL-H 和 Xe2/Xe3 等受支持的平台上提供大规模预填充加速。此实施利用定制着色器来利用英特尔的本机矩阵核心形状和 SLM 架构,包括 m16n16k16/SIMD32 支持。为了确保稳定性,内核当前启用了这些特定架构
正文没能搬到本站:该站禁止服务器(机房 IP)抓取,返回 site,换任何浏览器标识都拿不到。在手机上打开原站往往又慢又卡,下面先把收录到的内容给你。
本站会持续尝试重新抓取;也可以收藏这条,正文抓到后会永久保留。
正文由本站服务器抓取保存(已自动过滤广告、推荐位与追踪图片),排版与原站可能不同;版权归原站所有。