待验证50% 置信事实精确时间
在扩散模型中LoRA通常被注入U-Net或Transformer的注意力层（Q、K、V投影矩阵）
1
来源数
50%
置信度
长期有效
时效性
2026/9/12
首次发现
来源
涉及实体
相关事实
待验证DiT架构用Transformer块替代了U-Net中的卷积层和注意力层，随着模型参数量增加生成质量提升更显著73% 相似待验证对于图像生成Transformer骨干，注意力层的Q/K投影矩阵通常被识别为高敏感层，而FFN层大部分权重可安全压缩至FP8甚至INT873% 相似待验证从PCA降维到Transformer的注意力机制都依赖矩阵运算和向量空间变换71% 相似待验证LoRA的秩r通常取8至64之间，target_modules通常注入注意力层的Q、K、V、O矩阵70% 相似已验证当前主流的多模态融合架构基于Transformer的跨模态注意力机制，能够在统一框架下处理异构数据69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/916316API
curl https://kongchang.com/api/v1/knowledge/claims/916316MCP
get_claim(id=916316)