Qwen 3.8 Flash Next 针对两个 CMP 170hx GPU 进行了优化

原文：Qwen 3.8 Flash Next optimized for two CMP 170hx GPUs

我一直在使用两个 CMP 170HX 卡在本地设置上优化 Qwen 3.8 Flash Next，最终达到了我觉得值得分享的结果。两款卡均在 PCIe Gen2 x4 上运行 - 无 x16 mod 或 TP2。该设置使用 W4A16 AutoRound 检查点、修补的 vLLM、管道并行性和本机 MTP 推测解码。 n-gram 表是从 NVMe bu 进行内存映射的

正文由本站服务器抓取保存（已自动过滤广告、推荐位与追踪图片），排版与原站可能不同；版权归原站所有。