待验证50% 置信事实精确时间

传统 LLM 推理中因序列长度不可预知导致显存碎片与浪费，实测中高达60%～80%的显存可能被低效占用

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

vLLM v0.29.0rc3发布：高性能LLM推理引擎最新动态

涉及实体

PagedAttentionconcept

相关事实

待验证LLM输出具有概率性，存在幻觉风险，可能误判情境并调用本不该调用的工具74% 相似待验证如果参数量充足的模型连几十个样本都无法记住，几乎可以断定存在硬性错误，如标签错位、损失函数计算错误、梯度未正确回传等72% 相似已验证若用含测试集的全量数据计算均值和标准差，会导致预处理泄漏，使评估指标虚高，无法真实反映模型泛化能力72% 相似待验证LLM的错误往往不是随机分布的，当AI在某个架构假设上出现偏差时，后续所有基于该假设的决策都会系统性地偏离正确方向70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/898572

API

curl https://kongchang.com/api/v1/knowledge/claims/898572

MCP

get_claim(id=898572)