LLaMA
Meta开源的大语言模型系列，模型权重公开，是Meta AI技术栈的底层基础之一
核心事实
时间轴 (近 90 天)
私有化部署的技术路径分两类：将开源模型（如LLaMA、Qwen、DeepSeek）借助vLLM、Ollama、TGI等推理框架部署在自有服务器，或购买商业模型的私有化授权版本
大模型（LLM）通常指参数量达数十亿乃至数千亿级别、基于Transformer架构预训练的语言模型，代表产品包括GPT系列、LLaMA、Claude
MiniCPM5-2B采用标准的LLaMA结构，可以通过llama.cpp开箱即用，无需API密钥和联网
对于已开源发布的模型（如Meta的LLaMA系列），权重文件一旦公开，任何人均可下载并在私有服务器上运行，此时的关闭在技术上几乎不可能实现
Meta的LLaMA系列、Mistral等主流大语言模型都以Hugging Face为主要分发渠道
标准 Transformer（Post-LN）在残差相加之后执行归一化，而许多现代大模型如 LLaMA 改用 Pre-LN 或 RMSNorm 将归一化前置
GRP-Obliteration 属于白盒攻击范畴，针对已公开权重的开源模型
企业可在Meta的LLaMA、Mistral等开放权重模型上进行本地部署和领域微调，从而将数据处理保留在受控环境内并规避高昂的API调用费用
研究人员演示了如何在消费级硬件上移除 LLaMA 模型原有的安全过滤层
Meta 发布 LLaMA 系列模型后，权重在数天内通过 BitTorrent 等渠道广泛传播
还有 40 条时间轴事件
全部知识事实 (20)
Notable examples of Large Language Models include OpenAI's GPT series, Google's Gemini, Anthropic's Claude, and Meta's LLaMA.
80%已验证llama.cpp是由开发者Georgi Gerganov于2023年发起的开源项目，使用纯C/C++实现了LLaMA系列模型的推理
80%已验证当前所有主流大模型（GPT、BERT、LLaMA等）都基于Transformer架构
80%已验证RoPE（旋转位置编码）由苏剑林在2021年提出，其核心思想是将位置信息编码为向量空间中的旋转操作
75%已验证Meta于2023年发布LLaMA系列模型，随后Mistral、Qwen、DeepSeek等相继跟进形成开源生态
70%已验证GPT-4系列采用cl100k_base词表（约10万词元），GPT-4o系列升级至o200k_base（约20万词元）
65%已验证Meta于2023年发布Llama系列模型并开放商业使用授权
65%待验证Typical examples of GPAI models include OpenAI's GPT series, Google's Gemini, Anthropic's Claude, and Meta's LLaMA
90%待验证The LLaMA series of open-source models starts at 7B parameters
85%待验证开源模型与闭源模型在代码能力上的性能差距正在被迅速缩小
80%部分验证The GPT series, LLaMA, and Qwen are all Large Language Models
70%待验证私有化部署的技术路径分两类：将开源模型（如LLaMA、Qwen、DeepSeek）借助vLLM、Ollama、TGI等推理框架部署在自有服务器，或购买商业模型的私有化授权版本
50%待验证大模型（LLM）通常指参数量达数十亿乃至数千亿级别、基于Transformer架构预训练的语言模型，代表产品包括GPT系列、LLaMA、Claude
50%待验证MiniCPM5-2B采用标准的LLaMA结构，可以通过llama.cpp开箱即用，无需API密钥和联网
50%待验证对于已开源发布的模型（如Meta的LLaMA系列），权重文件一旦公开，任何人均可下载并在私有服务器上运行，此时的关闭在技术上几乎不可能实现
50%待验证Meta的LLaMA系列、Mistral等主流大语言模型都以Hugging Face为主要分发渠道
50%待验证标准 Transformer（Post-LN）在残差相加之后执行归一化，而许多现代大模型如 LLaMA 改用 Pre-LN 或 RMSNorm 将归一化前置
50%待验证GRP-Obliteration 属于白盒攻击范畴，针对已公开权重的开源模型
50%待验证企业可在Meta的LLaMA、Mistral等开放权重模型上进行本地部署和领域微调，从而将数据处理保留在受控环境内并规避高昂的API调用费用
50%待验证Meta的LLaMA系列、Mistral等开源模型的权重可被任何人下载、修改和部署
50%