https://plumephp.com/tags/draft-model/Recent content in Draft Model on PlumePHPHugozh-CNMon, 28 Sep 2026 10:00:00 +0800https://plumephp.com/ai-speculative-decoding/Mon, 28 Sep 2026 10:00:00 +0800https://plumephp.com/ai-speculative-decoding/<p>LLM 自回归解码的根本瓶颈是<strong>串行</strong>：每一步只能生成一个 token，而 Decode 阶段的计算密度极低（带宽受限）。投机采样（Speculative Decoding）换了个思路：<strong>让一个小草案模型替你「猜」后面的几个 token，大模型一次并行验证这一串</strong>——猜对了就一次接受多个 token，用「一次并行验证」换「多步串行生成」。本文把投机采样的原理、实现路径（草拟-验证、Medusa、EAGLE）、正确性保证、工程取舍与踩坑讲透。</p>