待验证50% 置信预测精确时间
在 2-bit 量化下，BFCL 的 Simple 类别可能仍保持较高通过率，而 Parallel 与参数填充类任务往往率先退化。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/25
首次发现
有效期至：2027/1/23
来源
涉及实体
相关事实
待验证BitNet探索的极端量化（如2-bit或1.58-bit三值量化）在某些场景下也能保持较好性能61% 相似待验证BitMTP实现宽度特化的低比特执行，针对不同批量或序列宽度选用合适的低比特内核，并在共享KV存储之上复用已捕获的计算图。60% 相似已验证叠加K-quant、GPTQ、AWQ等技巧可将量化平稳延伸到4-bit，但推进到2-bit或1-bit时性能会灾难性崩塌59% 相似待验证跨表比特分配是指在多个 n-gram 表之间不均匀地分配比特预算，例如对更重要的表使用 4 比特、次要的表使用 2 比特，从而在总内存约束下优化整体性能。59% 相似待验证大模型推理是显存带宽密集型任务，decode 阶段每生成一个 token 都要重新读取全部权重与 KV Cache，因此批处理规模越大，单位 token 的边际成本越低，但延迟也越高。58% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1095146API
curl https://kongchang.com/api/v1/knowledge/claims/1095146MCP
get_claim(id=1095146)