待验证50% 置信事实精确时间

LoRA将低秩适配矩阵分解为A和B，其中B初始化为零以保证初始时适配贡献为零

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

Osprey：通用预训练让推测解码草稿模型更高效

涉及实体

相关事实

待验证从零实现 Adam 需要处理偏差校正（bias correction），因为初始阶段 m 和 v 被初始化为零导致估计偏低66% 相似待验证岭回归通过在损失函数中添加L2正则化项将回归系数向零收缩但不置零，而LASSO（L1正则化）会产生稀疏解66% 相似待验证LoRA将微调权重变化量ΔW分解为两个低秩矩阵的乘积，参数量仅为原模型的0.1%~1%，当r=8、d=4096时参数压缩比高达256倍65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/893770

API

curl https://kongchang.com/api/v1/knowledge/claims/893770

MCP

get_claim(id=893770)