Unverified50% confidenceFactExact time
SmoothQuant(2022)通过数学等价变换将激活值中的离群值平滑转移到权重上,使激活值和权重都可使用 INT8 量化
1
Sources
50%
Confidence
Long-term
Relevance
8/31/2026
First Seen
Sources
Related Entities
Related Claims
Unverified旋转变换量化的理论基础是正交矩阵不改变模型数学等价性但能重新分布数值统计特性,用于搅匀离群值63% similarUnverified逻辑回归的参数通过最大化对数似然函数(等价于最小化交叉熵损失)来估计63% similarUnverifiedDiffusionGemma是首个在大规模(26B参数)上证明扩散范式可以匹敌自回归质量的工作61% similarUnverified全量微调会更新模型所有权重,效果最佳但对算力要求极高61% similarUnverifiedFine-tuning能从参数层面永久改变模型行为,效果更持久稳定,但需要大量标注数据和算力成本60% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/829121API
curl https://kongchang.com/api/v1/knowledge/claims/829121MCP
get_claim(id=829121)