概念Ngram 表
Ngram 表
记录文本中常见连续词片段及其后续延续的查表结构,用于投机解码中快速给出候选词以提升命中率。
时间轴 (近 90 天)
11月4日
Kunon 3.8 FlashNext 模型带有一张约 51B 参数的 Ngram 表。
待验证50%
11月4日
Strata 将 Ngram 表映射到 NVMe 固态硬盘上按需读取,而不是常驻内存或显存。
待验证50%
11月4日
Ngram 表在 NVMe 上的随机读性能(IOPS 和延迟)直接影响首 Token 延迟,而非顺序带宽或容量。
待验证50%