MoE 和专家在 llama、exllamav3、9070XT 上卸载
原文：MoE and expert offloading on llama, exllamav3, strata on 9070XT
首先。我绝对不是专家，过去几年我们已经完成了我们大家现在都喜欢的出色工作。看过这篇文章 https://www.reddit.com/r/LocalLLM/comments/1x5mxcj/qwen3827b_on_a_single_rx_9070_xt_150_toks_on_code/ 并想在 MoE 上尝试该引擎。过去两天我一直在 ROCm 上的不同引擎中对我的 RDNA4 9070XT 卸载的 MoE 专家进行基准测试
正文没能搬到本站：该站禁止服务器（机房 IP）抓取，返回 site，换任何浏览器标识都拿不到。在手机上打开原站往往又慢又卡，下面先把收录到的内容给你。
本站会持续尝试重新抓取；也可以收藏这条，正文抓到后会永久保留。
正文由本站服务器抓取保存（已自动过滤广告、推荐位与追踪图片），排版与原站可能不同；版权归原站所有。
