[控场AI]
概念Ngram 表

Ngram 表

记录文本中常见连续词片段及其后续延续的查表结构,用于投机解码中快速给出候选词以提升命中率。

时间轴 (近 90 天)

11月4日

Kunon 3.8 FlashNext 模型带有一张约 51B 参数的 Ngram 表。

待验证50%
11月4日

Strata 将 Ngram 表映射到 NVMe 固态硬盘上按需读取,而不是常驻内存或显存。

待验证50%
11月4日

Ngram 表在 NVMe 上的随机读性能(IOPS 和延迟)直接影响首 Token 延迟,而非顺序带宽或容量。

待验证50%

全部知识事实 (3)

来源文章