大型语言模型
核心事实
时间轴 (近 90 天)
每个模型在回答时未受到其他模型观点的挑战，因此倾向于给出面面俱到的'安全'回答，而非明确立场。
大型语言模型经过RLHF微调后往往会系统性地产生过度自信偏差
大型语言模型在生成选项时默认优化合理性而非可辨别性，因为训练目标是预测合理的词
通用AI出题工具习惯从词频词典抽取干扰项，产生的错误选项往往比正确答案更合理，扭曲考查目标
训练大型语言模型需要成千上万块加速芯片协同工作，持续运转数周甚至数月
大型语言模型被部署在客服、招聘筛选、信贷审批等直接关乎个人利益的场景中
随着大型语言模型训练集群规模扩张，HBM需求以每年约翻倍的速度增长
大量研究表明深度学习模型天然倾向于过度自信，即便答案错误也倾向给出接近100%的置信度，这一现象在大型语言模型中同样存在
大型语言模型的涌现能力被部分研究者视为通用智能信号，但也有研究者认为这些能力可能仍是对训练数据隐含模式的高效压缩与检索
大型语言模型可以将自然语言描述的车手反馈与结构化遥测数据对齐，机器学习算法能在高维参数空间中识别人类不易察觉的模式
还有 32 条时间轴事件
全部知识事实 (20)
大型语言模型存在知识截止日期的固有局限，模型只包含训练数据截止日期之前的信息
80%已验证决策模型是一类区别于生成式语言模型的专用架构，核心目标是对给定输入输出结构化判断结果而非生成自然语言文本
75%已验证大型语言模型服务的每一次推理都需要消耗大量GPU算力，容量规划难度远超普通应用
65%已验证由于大语言模型基于概率采样，即便指令写在上下文中，模型仍可能在复杂推理链中遗忘或跳过某些指令，这被称为指令遵循的不稳定性
65%已验证大型语言模型基于逐词预测下一个最可能出现的token生成内容，而非从事实数据库中检索答案
65%已验证大语言模型本质上是一个基于概率的文本预测系统，其核心机制是「下一个词预测」（Next Token Prediction），并不真正理解语义
65%待验证大型语言模型能够自动化分析恶意代码、生成漏洞利用脚本、模拟社会工程学攻击话术，将原本需要高技能黑客数小时完成的工作压缩至分钟级别
75%待验证批评者质疑AI的突破究竟是真正的数学推理还是对训练数据中已有解法的高级检索与重组
70%待验证大型语言模型的训练语料可能包含未正式发表的学术预印本、研究笔记等，引发数据污染问题
60%待验证每个模型在回答时未受到其他模型观点的挑战，因此倾向于给出面面俱到的'安全'回答，而非明确立场。
50%待验证大型语言模型经过RLHF微调后往往会系统性地产生过度自信偏差
50%待验证通用AI出题工具习惯从词频词典抽取干扰项，产生的错误选项往往比正确答案更合理，扭曲考查目标
50%待验证大型语言模型在生成选项时默认优化合理性而非可辨别性，因为训练目标是预测合理的词
50%待验证训练大型语言模型需要成千上万块加速芯片协同工作，持续运转数周甚至数月
50%待验证大型语言模型被部署在客服、招聘筛选、信贷审批等直接关乎个人利益的场景中
50%待验证随着大型语言模型训练集群规模扩张，HBM需求以每年约翻倍的速度增长
50%待验证大量研究表明深度学习模型天然倾向于过度自信，即便答案错误也倾向给出接近100%的置信度，这一现象在大型语言模型中同样存在
50%待验证大型语言模型的涌现能力被部分研究者视为通用智能信号，但也有研究者认为这些能力可能仍是对训练数据隐含模式的高效压缩与检索
50%待验证大型语言模型可以将自然语言描述的车手反馈与结构化遥测数据对齐，机器学习算法能在高维参数空间中识别人类不易察觉的模式
50%待验证模型的每次调用会同时消耗输入token（提示词和上下文）与输出token（模型生成的回复），两者通常分别计价
50%