[控场AI]
模型

Mistral 7B

Mistral AI 发布的7B参数开源语言模型,以较小参数量实现较强性能,支持本地部署和微调,是Mistral开源策略的代表性产品。

核心事实

时间轴 (近 90 天)

10月7日

Mistral此前发布的Mistral 7B采用了较为宽松的Apache 2.0许可

待验证50%
10月2日

参数量在7B以下的开源模型如Llama 3、Mistral 7B配合4-bit量化可在单张消费级GPU或高性能CPU上运行

待验证50%
9月11日

Mistral 7B采用Apache 2.0许可证,被普遍认为更接近真正意义的开源

待验证60%
9月9日

Mistral AI的Mistral 7B模型采用了Sliding Window Attention(滑动窗口注意力)机制,每个token只关注固定窗口内的相邻token

待验证50%
9月4日

Mistral AI由前Meta和Google DeepMind研究员于2023年在巴黎创立,Mistral 7B以70亿参数匹配甚至超越130亿参数级别竞品性能

待验证50%
8月27日

7B-13B级别的开源小模型(如Llama 2 7B、Mistral 7B)参数容量有限,对外部提供的上下文质量形成刚性依赖

待验证50%

全部知识事实 (12)

来源文章