待验证50% 置信事实精确时间

Mistral模型家族是SWA的典型代表，在每一层使用4096 token的窗口大小

1

来源数

50%

置信度

长期有效

时效性

2026/8/30

首次发现

来源

稀疏注意力论文如何粉饰实验结果？四大套路深度揭秘

涉及实体

Mistralmodel Sliding Window Attentionconcept

相关事实

待验证Ollama的模型库包含数百个模型，包括Gemma 4、DeepSeek、Llama 4、Mistral等60% 相似待验证GQA将注意力头分组共享KV，已被LLaMA 3、Mistral等主流模型采用55% 相似已验证Mistral 7B的关键技术创新包括滑动窗口注意力机制（SWA）和分组查询注意力（GQA）54% 相似待验证Mistral 推出了具身导航模型，参数量为 80 亿54% 相似待验证LangChain框架包含六大核心模块：Model I/O、Chain、Memory、Retrieval、Agent和Callbacks54% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/823645

API

curl https://kongchang.com/api/v1/knowledge/claims/823645

MCP

get_claim(id=823645)