LLM
大语言模型（Large Language Model，LLM），是基于深度学习技术、经过海量文本数据训练的自然语言处理模型。其核心能力包括文本理解、生成、推理与对话，能够处理翻译、摘要、代码生成、问答等多种语言任务。LLM通常采用Transformer架构，参数规模从数十亿到数千亿不等，是当前人工智能应用的重要基础组件。
Core Facts
Timeline (last 90 days)
大模型幻觉产生的三大原因是训练数据噪声、概率优先机制和数据时效性不足
AI产品的护城河不在底层模型，而在围绕模型搭建的评测框架、安全与隐私处理、缓存机制、流程编排等工程体系
该功能基于VS Code的LLM Language Tool API实现
LLM 驱动的代码审查能结合代码语义和上下文进行比规则匹配更智能的判断
运行本地大语言模型建议32GB内存起步
Matt Pocock认为LLM真正的Smart Zone大约在10万token以内，超过这个范围后模型在做复杂决策时会变得越来越不可靠
同一个基座模型在不同系统提示词下的表现差异可以高达30-50个百分点
AI终端助手将大语言模型与命令行环境深度集成，可将用户自然语言描述解析为Shell命令并直接执行
围绕DeepSeek等模型已经形成了包括推理框架（vLLM、SGLang）、Agent框架（如MetaGPT、AutoGen的国产适配）在内的完整技术栈
WhichLLM推荐完模型后可一条命令直接开始对话，自动下载模型并配置运行环境
40 more timeline events
All Facts (20)
LLM的输出具有天然的非确定性，即使输入相同的Prompt，模型在不同时刻可能返回格式、内容甚至逻辑不同的结果
95%UnverifiedKarpathy提出LLM特别擅长循环直到达成目标，应该给它成功标准而非告诉它做什么
90%UnverifiedLLM网关提供请求频次控制、Token消耗统计、缓存命中、日志记录和成本预估等功能
85%Unverified系统中调用LLM接口的场景包括新闻分析、信号生成、Agent决策和经验总结等
85%UnverifiedAI终端助手将大语言模型与命令行环境深度集成，可将用户自然语言描述解析为Shell命令并直接执行
85%Verified大语言模型的涌现能力是指在参数规模突破某个阈值后突然展现出的复杂推理能力
80%Unverified当LLM上下文窗口中的指令过多时，模型对每条指令的关注度会下降，导致遵循率降低
80%Verified大语言模型本质上是无状态函数，权重在推理时已经固定，不会随时间推移而学习
80%Unverified随着指令数量增加，LLM的遵循质量会整体下降，开始无差别忽略所有指令而非仅忽略靠后的指令
80%VerifiedAI Agent底层通常由大语言模型（LLM）驱动，配合工具调用、记忆模块和规划框架（如ReAct范式）实现复杂任务自动化
80%Unverified上下文工程的核心认知是LLM的输出质量完全取决于输入上下文的质量
80%Unverified不建议在claude.md中放入代码风格指南，因为与传统Linter相比LLM既昂贵又缓慢，且会降低LLM的性能和指令遵循能力
80%UnverifiedLLM在生成代码时倾向于'重写'而非'编辑'，导致连带修改问题频繁发生
80%Unverified现代智能体的四大核心技术组件包括大语言模型、工具调用、记忆系统和检索增强生成（RAG）
75%UnverifiedMatt Pocock认为LLM真正的Smart Zone大约在10万token以内，超过这个范围后模型在做复杂决策时会变得越来越不可靠
75%Verified大语言模型的幻觉问题源于其本质是基于统计概率的序列预测系统，生成的Token基于条件概率最大化而非真正的逻辑推理
70%VerifiedLLM存在幻觉（Hallucination）问题，即以高置信度生成事实错误的信息
70%UnverifiedAI在专业领域（如医学、法律、金融）中的错误往往更加隐蔽
70%Unverified运行本地大语言模型建议32GB内存起步
70%UnverifiedLLM 驱动的代码审查能结合代码语义和上下文进行比规则匹配更智能的判断
70%