Unverified95% confidenceFactTime unknown
MemGAS使用熵路由器（Entropy Router）根据查询在不同粒度上相似度分布的熵值来自适应选择最优记忆粒度
1
Sources
95%
Confidence
Long-term
Relevance
6/1/2026
First Seen
Sources
MemGAS：多粒度记忆关联让AI Agent精准回忆
bilibiliAgent智能体深度研究院
Related Entities
Related Claims
Unverified语义熵方法在技术实现上通过多次采样获得候选回答、使用NLI模型判断语义等价性聚类、最后计算语义类别上的熵值70% similarUnverified困惑度概念源自信息论中的熵（Shannon Entropy），本质上是语言模型每步预测的平均分支因子68% similarUnverified熵能够完整捕捉概率分布的所有阶矩信息，而方差只能捕捉线性、二阶的统计关系；互信息能度量包括非线性在内的总依赖关系，比Pearson相关系数更通用66% similarUnverified模型记忆化程度与数据重复次数高度相关，参数量远超训练数据信息熵时模型倾向于记忆而非泛化64% similarUnverified交叉熵恢复率通过将SAE重建激活替代原始激活输入到模型后续层比较交叉熵损失变化来计算，衡量SAE是否保留对下游计算重要的信息63% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/20094API
curl https://kongchang.com/api/v1/knowledge/claims/20094MCP
get_claim(id=20094)