safespec-raise：长上下文推测解码的收益判据与 RAISE 增量回退调度参考实现
Tristan156/safespec-raise · 长上下文推测解码的收益判据与增量回退调度（RAISE）参考实现 — Reference implementation of a break-even criterion and RAISE scheduling for long-context speculative decoding
safespec-raise 是论文《长上下文推测解码的收益判据与增量回退调度》的配套参考实现，提供常规贪心解码、块验证推测解码与动态 k 基线，以及 RAISE 调度内核（增量回退 M1、置信度门控自适应深度 M2、严格 EOS 终止 M3）。项目给出可证伪的收益判据：在每轮恰好一次目标前向的不变式下，草稿深度 k 并非独立收益杠杆，长上下文下出现负加速主因是执行路径的每轮固定开销；材料报告三机制中仅 M1 呈正效应，并提供冒烟测试、成本标定、多方法对照、机制消融与剖面扫描等实验脚本，以及离线结果聚合与一致性核查脚本。
展开详情收起详情：safespec-raise：长上下文推测解码的收益判据与 RAISE 增量回退调度参考实现
评论 · 分享第一个看法