LLM
大语言模型（Large Language Model，LLM），是基于深度学习技术、经过海量文本数据训练的自然语言处理模型。其核心能力包括文本理解、生成、推理与对话，能够处理翻译、摘要、代码生成、问答等多种语言任务。LLM通常采用Transformer架构，参数规模从数十亿到数千亿不等，是当前人工智能应用的重要基础组件。
核心事实
时间轴 (近 90 天)
研究者已证明可以通过修改不到0.1%的训练数据实现LLM后门植入
LLM可能通过利用推理引擎的内存安全漏洞，反向获得对宿主机器的控制权
在数字、法律、医疗等高风险场景不应把LLM当作事实来源，必须引入外部验证机制
LLM训练过程中存在记忆化（memorization）现象，模型可能逐字存储训练数据片段并在推理时再现
目前尚无可靠的技术手段能够事前检测AI输出中是否包含记忆化的受版权保护内容
在手机上运行一个3B参数的LLM仍面临约6GB内存占用和数百毫秒的首token延迟
LLM在长对话中可能逐渐偏离设定的人物性格或打破第四面墙，这被称为角色一致性问题
即便温度参数设为0，不同的系统提示词、对话上下文和模型版本更新都会导致LLM输出差异，使品牌可见度测量面临可复现性挑战
向LLM提供结构化需求描述（函数签名、类型约束、前置条件和后置条件）能显著提高生成代码的正确率
当项目文件超过上下文窗口大小时，模型无法全局理解代码库的完整结构和依赖关系，导致处理大型项目时错误率上升
还有 40 条时间轴事件
全部知识事实 (20)
大语言模型本质上是无状态函数，权重在推理时已经固定，不会随时间推移而学习
80%已验证大语言模型的涌现能力是指在参数规模突破某个阈值后突然展现出的复杂推理能力
80%已验证AI Agent底层通常由大语言模型（LLM）驱动，配合工具调用、记忆模块和规划框架（如ReAct范式）实现复杂任务自动化
80%已验证LLM的生成机制是基于概率的文本预测，而非真正'理解'代码语义
75%已验证LLM的输出具有天然的非确定性，即使输入相同的Prompt，模型在不同时刻可能返回格式、内容甚至逻辑不同的结果
70%已验证大语言模型基于Transformer架构，每次推理都是独立的前向传播过程，不保留任何会话状态
70%已验证LLM存在幻觉（Hallucination）问题，即以高置信度生成事实错误的信息
70%已验证大语言模型的幻觉问题源于其本质是基于统计概率的序列预测系统，生成的Token基于条件概率最大化而非真正的逻辑推理
70%已验证一次完整的语音AI交互涉及STT、LLM推理、TTS三个串行处理阶段
65%已验证AI 工具的上下文窗口从早期的 4K tokens 发展到如今的百万级 tokens
65%已验证大型语言模型通过将输入文本分割为tokens来处理语言，tokens可以是完整单词、子词片段或单个字符
65%待验证Hallucination refers to LLMs generating plausible-sounding but factually incorrect information
90%待验证AI-powered phone answering involves ASR to convert speech to text, an LLM to understand intent and generate responses, and TTS to convert replies into voice output
90%待验证Karpathy提出LLM特别擅长循环直到达成目标，应该给它成功标准而非告诉它做什么
90%待验证Language models are fundamentally probabilistic text generation systems that produce content based on statistical patterns in training data rather than understanding facts
85%待验证LLM在代码生成场景中引用软件包时，是基于上下文语义和训练数据模式合成一个看似合理的包名，而非从实际的包注册表中检索
85%待验证API call prices for mainstream large models have dropped by orders of magnitude over the past two years
85%待验证Mainstream Agent architectures typically use a large language model as the brain, combined with memory modules, planning modules, and tool interfaces to accomplish complex tasks
85%待验证A core limitation of current large language models is the finite context window
85%待验证In traditional programs, sleep is set by programmers based on clear technical requirements, while an LLM's sleep calls come from the model's own judgment
85%