#小模型

共 8 篇相关文章

Groot发布四款小模型，分别面向推理、编程和工具调用场景。本文分析其四模型分工逻辑、小模型赛道竞争焦点及对开发者的实际意义，并指出参数规模、许可证等待验证信息。

WorldTUI项目训练360M参数小模型扮演终端界面，不执行真实命令而是模拟Shell交互。本文解析其设计思路、参数取舍与Hacker News社区反响，探讨小模型在垂直场景的应用潜力。

边缘AI部署实战指南：3B小模型在分类、提取、路由等窄任务上以低延迟、离线可用和零API成本击败70B大模型。涵盖硬件选型、教师-学生蒸馏管线、混合路由、安全监控与标注经济学。

HAL-X AI开源322M参数非自回归决策模型THX-01，单次前向传播约10毫秒完成推理，提供免费API与Apache 2.0开源权重。本文解析其RLCD校准训练方法、六种决策类型及与TypeSafe Jev的基准对比。

Strands Decider 2B 是一款小体量、开源的决策模型，专注智能体系统中的判断与选择任务。本文解析其 2B 参数定位、开源价值及在 Agent 架构中的潜在角色。

Jeff 是一款兼容 Jev 的开源 0.8B 决策模型，主打家用硬件即可训练、推理延迟仅约 30 毫秒。本文解析其小模型路线、低延迟优势与实时决策应用场景。

开源决策模型Laya仅4.2亿参数，可在普通显卡本地运行，单次判断33毫秒、零费用、Apache 2.0协议。专为Agent判断层设计，只做Trace/Score/Yes-No三类判断，不生成文本。本文解析其性能、准确率与适用场景。

悟空2.2P 35B MOE模型正式开源，采用对抗式杂交蒸馏技术，综合性能超越Qwen3.6-27B。4090显卡Q5量化达158 tokens/s，仅需8.9G显存即可运行，支持256K上下文。详解核心技术、硬件配置与实测数据。