1.3 KiB
1.3 KiB
title, created, updated, type, tags, sources
| title | created | updated | type | tags | sources | |||||
|---|---|---|---|---|---|---|---|---|---|---|
| MTP (Multi-Token Prediction) | 2026-06-28 | 2026-06-28 | concept |
|
|
Multi-Token Prediction (MTP)
MTP（Multi-Token Prediction）是 DeepSeek 系列模型（DeepSeek-V2, V3, V4）内置的autoregressive-drafting机制，作为生产环境中的投机解码草稿器。
变体
- MTP-1：单 token 草稿模式，DSpark 论文中的生产基线。历史上被维持是因为静态多 token 草稿器（MTP-3/5）在高并发下会因过度验证开销严格降低总吞吐量
- MTP-3/5：多 token 草稿模式
在 DSpark 部署中的角色
DSpark 在 DeepSeek-V4 发布两周后取代了 MTP-1 成为生产系统。DSpark-5（最大草稿长度 $\gamma=5$）相比 MTP-1：
- V4-Flash：在匹配吞吐量下，每用户生成速度提升 60%-85%
- V4-Pro：提升 57%-78%
关键突破：DSpark 通过confidence-scheduled-verification安全解锁了大草稿块的性能潜力，解决了 MTP-3/5 因固定长度验证导致的吞吐量退化问题。