待验证50% 置信事实精确时间
BERT 中词嵌入矩阵维度为 V×d，其中 V 为词表大小，d 为隐藏维度 768，将离散词元 ID 映射为稠密实值向量
1
来源数
50%
置信度
长期有效
时效性
2026/9/6
首次发现
来源
涉及实体
相关事实
待验证嵌入层本质上是一个尺寸为V×D的可学习矩阵（V为词汇表大小，D为嵌入维度），接收token ID时查找对应行向量78% 相似待验证poly核将原始d维输入隐式映射到O(n^d)维特征空间，维度随degree指数级增长，计算代价急剧膨胀65% 相似待验证对于L层、H个注意力头、每头维度为d的模型，缓存n个token需要的显存为2×L×H×d×n×精度字节数60% 相似待验证嵌入向量本质上是神经网络中间层输出的高维数值向量，通常具有数百到数千个维度，是原始输入数据在学习到的语义空间中的坐标表示60% 相似待验证标准 Scaled Dot-Product Attention 中 Q 与 K 做矩阵乘法得到 n×n 注意力分数矩阵，计算量为 O(n²·d)59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/866059API
curl https://kongchang.com/api/v1/knowledge/claims/866059MCP
get_claim(id=866059)