本地模型
完全运行在用户设备上的大语言模型，通常为开源权重模型，通过本地推理框架执行，优势是数据不出设备、无网络延迟、无按token计费，劣势是受限于设备算力和显存
核心事实
时间轴 (近 90 天)
本地模型需要本地计算资源，且模型更新可能不如云端及时。
本地模型的核心优势在于消除网络延迟，12毫秒的响应时间对于实时性要求高的游戏环境几乎可以忽略不计。
本地模型是直接在用户设备上运行的机器学习模型，通常经过量化或蒸馏等压缩技术以降低对内存和算力的要求。
帖子评论中有人将“跑本地模型”戏谑为“浪费算力”，反映了AI资源分配的矛盾。
在本地运行 AI 模型通常要求 Mac 具备足够统一内存（通常 16GB 以上较流畅），且小参数量模型的复杂任务能力弱于云端大模型。
本地模型的能力与在线模型差距明显，复杂任务（如开发软件）仍建议使用在线智能体。
本地运行模型面临算力、速度、质量和可移植性四道坎；混合方案（本地能跑则本地、否则上云）也不像想象中划算，因为小模型放云端成本也只有几美分。
Reimer的判断是：本地模型对价格敏感型应用最终很可能胜出，但今天仍以特定用例（如命令式交互）为主。
实用的选型原则是：固定分类、抽取、路由这类高频轻量任务交给本地模型，复杂任务留给云端，以优化整体延迟和成本。
视频结尾提到下期将让模型学会调用工具，表明当前部署只是起点，本地模型加上工具调用能力才能覆盖更多实际工作流。
还有 25 条时间轴事件
全部知识事实 (20)
本地部署 AI 模型相比云端服务在数据隐私、成本控制和调用限制方面具有优势
65%已验证本地运行的模型相较于云端千亿参数大模型，在推理深度、上下文长度和复杂分析能力上有所取舍
65%已验证本地部署模型将AI模型权重下载到用户硬件运行，推理过程在本地完成，数据无需经过外部服务器
65%待验证本地模型需要本地计算资源，且模型更新可能不如云端及时。
50%待验证本地模型的核心优势在于消除网络延迟，12毫秒的响应时间对于实时性要求高的游戏环境几乎可以忽略不计。
50%待验证本地模型是直接在用户设备上运行的机器学习模型，通常经过量化或蒸馏等压缩技术以降低对内存和算力的要求。
50%待验证帖子评论中有人将“跑本地模型”戏谑为“浪费算力”，反映了AI资源分配的矛盾。
50%待验证在本地运行 AI 模型通常要求 Mac 具备足够统一内存（通常 16GB 以上较流畅），且小参数量模型的复杂任务能力弱于云端大模型。
50%待验证本地模型的能力与在线模型差距明显，复杂任务（如开发软件）仍建议使用在线智能体。
50%待验证本地运行模型面临算力、速度、质量和可移植性四道坎；混合方案（本地能跑则本地、否则上云）也不像想象中划算，因为小模型放云端成本也只有几美分。
50%待验证实用的选型原则是：固定分类、抽取、路由这类高频轻量任务交给本地模型，复杂任务留给云端，以优化整体延迟和成本。
50%待验证本地模型的调用不受网络波动影响，且不产生 token 费用，适合高频、长文本、反复修改的创作任务。
50%待验证本地模型目前适合7×24小时常驻小型代理、子任务执行、记忆维护与自我改进，但不适合动辄数千上万行的代码库开发。
50%待验证云端模型能力强、免维护，适合快速验证；本地模型数据可控、无调用成本，适合长期运行和敏感业务。
50%待验证本地模型即便能力追平，部署成本、硬件门槛、维护复杂度仍然是普通用户的拦路虎；订阅制的价值也不只是模型本身，还包括基础设施、更新迭代和易用性。
50%待验证小参数本地模型在复杂逻辑任务中容易失败，本地部署的免费方案并非没有代价。
50%待验证Locally Uncensored 3.0.6 加入了让本地模型用鼠标和键盘操作用户批准的应用的电脑控制功能，截图和点击都留在本机，不上传云端。
50%待验证本地模型在代码补全、文档问答、批量文本处理等任务上表现可圈可点，但在需要顶尖模型推理能力的复杂任务上，本地硬件可能力不从心。
50%待验证消费级显卡通常只能运行7B–32B的量化本地模型，而云端API背后往往是数百B参数的稠密或MoE模型，在指令遵循、长上下文和工具调用稳定性上差距明显。
50%待验证本地模型的价值在于隐私、离线工作，以及不想把数据发出去的任务；当需要尽可能好的回答时，它并不是托管大模型的对手。
50%