待验证95% 置信事实时间未知
MemGAS使用熵路由器(Entropy Router)根据查询在不同粒度上相似度分布的熵值来自适应选择最优记忆粒度
1
来源数
95%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
MemGAS:多粒度记忆关联让AI Agent精准回忆
bilibiliAgent智能体深度研究院
涉及实体
相关事实
待验证语义熵方法在技术实现上通过多次采样获得候选回答、使用NLI模型判断语义等价性聚类、最后计算语义类别上的熵值70% 相似待验证困惑度概念源自信息论中的熵(Shannon Entropy),本质上是语言模型每步预测的平均分支因子68% 相似待验证熵能够完整捕捉概率分布的所有阶矩信息,而方差只能捕捉线性、二阶的统计关系;互信息能度量包括非线性在内的总依赖关系,比Pearson相关系数更通用66% 相似待验证模型记忆化程度与数据重复次数高度相关,参数量远超训练数据信息熵时模型倾向于记忆而非泛化64% 相似待验证交叉熵恢复率通过将SAE重建激活替代原始激活输入到模型后续层比较交叉熵损失变化来计算,衡量SAE是否保留对下游计算重要的信息63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/20094API
curl https://kongchang.com/api/v1/knowledge/claims/20094MCP
get_claim(id=20094)