待验证50% 置信事实精确时间

nats/byte 是不受分词器影响的语言建模损失度量，其数值通常很小，例如小型字符级模型的验证 NLL 约在 1.0–1.5 nats/byte 区间。

1

来源数

50%

置信度

长期有效

时效性

2026/10/15

首次发现

来源

Continuum Attention：连续注意力机制挑战Softmax

rss2026/10/14

涉及实体

nats/byteconcept

相关事实

待验证BitNet系列研究进一步验证了极低比特量化在大规模语言模型上的可行性62% 相似待验证大语言模型的API定价通常以token为计量单位，token是模型处理文本的最小单元58% 相似待验证TBW是主机写入量而非NAND实际擦写量，由于SSD控制器内部的写放大效应，实际NAND磨损会高于TBW所呈现的数字57% 相似待验证Varint 编码处理负数时，即便数值很小（如 -1）也会被编码为 10 个字节57% 相似待验证比特/字节是字节级语言模型的标准评估指标，本质上等同于以2为底的交叉熵，均匀分布模型的理论上界是8比特/字节57% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1037969

API

curl https://kongchang.com/api/v1/knowledge/claims/1037969

MCP

get_claim(id=1037969)