Unverified50% confidenceBenchmarkExact time
Towards Monosemanticity研究在单层MLP上训练SAE，从约512维激活空间中提炼出超过4000个可解释特征
1
Sources
50%
Confidence
Long-term
Relevance
7/16/2026
First Seen
Sources
Related Claims
Unverified乘积量化的核心思想是将高维向量空间分解为若干低维子空间，在每个子空间内独立进行码本学习与编码65% similarUnverifiedDeepSeek-V2引入Multi-Head Latent Attention（MLA）机制和DeepSeekMoE架构，其每百万token推理成本约为同期GPT-4级别模型的百分之一61% similarUnverified乘积量化（PQ）最早由Jégou等人于2011年提出，其核心思想是将高维向量空间分解为若干低维子空间并在每个子空间内独立进行码本学习与编码60% similarVerified深度学习中常见的图像批次数据是4维张量，维度为批次大小×通道数×高度×宽度60% similarUnverifiedGoogle DeepMind发布Gemma 4量化感知训练权重，通过定向2Bit压缩技术将12B参数模型的内存占用降至约1GB60% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/533683API
curl https://kongchang.com/api/v1/knowledge/claims/533683MCP
get_claim(id=533683)