待验证50% 置信事实精确时间
在多模态大模型中,图像经视觉编码器切分成大量 patch token,注意力分布呈长尾,少数视觉 token 获得高注意力,大量 token 注意力很低。
1
来源数
50%
置信度
长期有效
时效性
2026/11/5
首次发现
来源
涉及实体
相关事实
待验证在多模态模型中,指称通常通过文本 token 与视觉 token 之间的注意力对齐来实现。80% 相似待验证多模态 Agent 任务的 token 额度消耗往往远高于纯文字对话,因为图片输入需编码为视觉 token、Computer Use 每次截图引入新视觉输入、长时多步推理链累积中间推理 token75% 相似待验证在多模态智能体中,视觉推理指模型将页面截图转成图像 token 后逐帧解析以判断可点击元素位置的机制;一张高分辨率截图往往消耗数百至上千个图像 token,且每次页面状态变化都需重新推理。73% 相似待验证当前主流的多模态理解技术路径是将视觉编码器输出的图像特征,通过投影层或交叉注意力对齐到语言模型的嵌入空间,使文本 token 与图像 token 在同一序列中参与自注意力计算(早期融合)。72% 相似待验证大模型中存在注意力汇聚(Attention Sink)现象,即序列最开头的几个 token 往往保持较高的注意力权重72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1137657API
curl https://kongchang.com/api/v1/knowledge/claims/1137657MCP
get_claim(id=1137657)