GPU 太多的律师，第 5 部分：DeepSeek-V4.1-Flash 在 2018 年的八台 V100 上以接近 NVFP4 的质量运行。524K 上下文，100+ tok/s 解码，约 160 tok/s，同时进行两个聊天，我的法律工具现在在其上运行，100% 本地

原文：Lawyer with too many GPUs, part 5: DeepSeek-V4.1-Flash at near-NVFP4 quality on eight V100s from 2018. 524K context, 100+ tok/s decode, ~160 tok/s with two chats at once, and my legal harness now runs on it, 100% local

大约从 2026 年 2 月到 2026 年 7 月，我花费了大量时间构建法律工具，以使 Claude 更加可预测。效果很好。我尝试构建与运行本地模型相同的东西。那没有用。然后 Opus 改进得如此之多，以至于它经常会在我没有注意到的情况下跳过我的安全带。它仍然有一个带钩子的安全带，但现在更宽松了。我买了很多硬件来运行

正文由本站服务器抓取保存（已自动过滤广告、推荐位与追踪图片），排版与原站可能不同；版权归原站所有。