真实损失：优化推测解码的真实预期接受长度

原文：REAL Loss: Optimizing Real Expected Acceptance Length for Speculative Decoding

推测性解码通过让草稿模型为目标模型提出多个标记来一次性验证，从而加速 LLM 推理。加速比由预期接受长度 (EAL) 决定，但交叉熵、KL 散度和总变异等标准训练目标仅关注分布匹配或单步重叠。最近的研究提出了块级 tr

正文由本站服务器抓取保存（已自动过滤广告、推荐位与追踪图片），排版与原站可能不同；版权归原站所有。