Qwen 3.6 27B 进阶玩法：10个被忽视的实战技巧

开源大模型的真正价值，往往不在于跑分，而在于你能用它搭出什么。Reddit 上一位从零起步的用户（自称入坑四个多月，首个 Agent 就基于 Qwen 3.5 27B）分享了一份面向新手的 Qwen 3.6 27B 实操清单，全部基于 llama.cpp 环境。他坦言自己仍在打磨 3.6、不喜欢新版本的说话风格，于是把踩坑经验整理成了十条可复用的技巧。

从“造轮子”开始：把模型当成万能工具人

作者的核心思路很直接：遇到任何麻烦，先问“能不能写个 App 把它简化掉”，答案通常是能。他用 Qwen 生成了一个替代记事本的应用，支持完整文字处理、侧边栏、明暗主题切换，这篇帖子本身就是在该应用里写的。他甚至直接复制 Claude 的界面风格，为自己定制了一个 Chat UI 前端，因为大模型本身就擅长模仿。

这类“自造工具”的路径极大降低了门槛：不需要成为前端工程师，只需要描述清楚需求。

让 Agent 真正能干活：循环、工具与子代理

ReAct 循环是工具调用能力的基础——模型用一次工具、读结果、再用一次，反复多轮。作者说 Qwen 几乎“闭着眼”就能生成这类循环，位置和形式都可以自定。在此基础上，MCP 工具是作者最喜欢的部分：不必依赖第三方、可能存在安全隐患的现成工具，直接告诉模型你要什么功能，它就能生成对应 MCP 工具，必要时连自带的 MCP Server 也一并写出来。

子代理（Sub-agent）则是另一项轻松实现的能力：让 Qwen 生成一个 Python 子代理生成器即可。作者附上了一个实用技巧——MCP 工具极其消耗上下文，所以可以给子代理分配独立上下文，让主 Agent 把任务转交出去，相当于把上下文窗口翻倍甚至翻数倍。若想在多轮之间保留上下文，则需要一个 pipeline runner 来支撑。

ReAct 循环（Reasoning + Acting）最早由 Google 与普林斯顿大学在 2022 年的论文中提出，核心是把“推理”和“执行动作”交替进行：模型先输出一段思考（Thought），再决定调用哪个工具并给出参数（Action），拿到返回结果（Observation）后继续下一轮推理。这与早期“一次性生成完整链式回答”的 CoT（思维链）不同，ReAct 允许模型根据真实环境反馈动态调整策略，因此成为几乎所有 Agent 框架（LangChain、AutoGPT、Claude Tool Use 等）的底层范式。

MCP（Model Context Protocol） 是 Anthropic 于 2024 年底开源的协议标准，用来统一大模型与外部工具、数据源之间的通信方式。可以把它理解为“AI 的 USB-C 接口”：只要工具按 MCP 规范实现 Server 端，任何支持该协议的模型或客户端就能直接调用，而不必为每个工具单独写适配层。它把工具描述（tool schema）、资源（resources）、提示模板（prompts）三类能力标准化，这也是作者能“让模型自己生成 MCP 工具”的前提——生成的代码只需遵循公开协议即可被复用。

工作流与模型管理：把重复劳动交给系统

作者借鉴 n8n 的思路，用 Qwen 自建了一个 pipeline runner。相比 n8n，它更自由，限制更少。他的一个关键提醒是：如果在流水线里串联多个 Agent，又希望各自拥有独立上下文，必须在 llama.cpp 中启用 cache-idle-slots，这样每轮会交换 KV cache，把上一个缓存换出到 CPU 内存。

模型启动器是他的“看家工具”：可以从目录里选择任意模型并设置参数，满意后保存为别名，下次只需选别名即可带参数拉起。同一个模型可以有多套参数配置，各配一个别名。他还建议把 Jinja 模板也纳入启动器，为不同模型类型选用不同模板。

KV cache（键值缓存） 是 Transformer 推理中的关键优化：自注意力计算需要用到此前所有 token 的 Key 和 Value 向量，如果每生成一个新 token 都重算全部历史，代价会随上下文长度平方增长。KV cache 把已算过的 K、V 存下来复用，使每步只需计算新增 token。llama.cpp 中的 cache-idle-slots 正是围绕这一机制的调度开关：多槽位（slot）并发推理时，空闲槽位的 KV cache 可被换出到 CPU 内存、需要时再换回，从而在多个 Agent 之间保留各自独立且互不干扰的上下文，同时把显存占用控制在可接受范围。

Jinja 模板 在这里指聊天模板（chat template）：不同模型（Qwen、Llama、Mistral 等）对 system/user/assistant 角色的标记方式不同，Jinja2 模板把这些格式抽象成可配置的文本渲染规则。llama.cpp 会读取模板把对话历史拼成模型期望的输入串，因此为不同模型准备对应模板，比依赖内置默认模板更可靠。

自动化与“元能力”：安装、感知、记忆、自建骨架

第 8 条展示了自动化外包的边界：让 Agent 下载并安装 llama.cpp、修改构建、fork GitHub 仓库都不在话下。作者举例说，自己忙于项目时，直接让 Agent 去下载安装 Moss 和 OmniVoice 两个 TTS 应用、生成音频片段验证可运行，一切都顺利完成。

时间感知（Temporal Awareness）是被低估的一环。通过在会话开始和每一轮注入元数据——日期、时间、当前上下文长度、最大上下文、软硬件栈等——可以解锁更多玩法。作者据此实现了一个能力：主模型逼近上下文上限时，Agent 能自行切换到上下文更大的备用模型，全程无需重启服务。

记忆方面，他的 Agent 会在每次会话结束时写入会话摘要；启动器则在启动时把最近的摘要拼接进上下文，从而获得对近期事件的快照。还能扩展成加载提醒、加载自我反思等任意文档。不过作者特别指出，他现在不再建议加载“自我反思”，因为它会污染上下文。

最后一条 Bonus 分量最重：自建 harness（执行骨架）。面对 pi、hermes 等现成方案，他选择用 Qwen 自己搭建。工作量更大，但回报更高——你会真正理解这些系统如何运作，从而衍生出独特解法。比如在了解代理（proxy）概念后，他摸索出上下文压缩、历史修改、内容清洗、Jinja 模板改造、钩子等一系列技巧。

Harness（执行骨架） 指包裹在模型之外、负责驱动其运行的一整套代码——包括对话循环、工具调用解析、上下文拼装、错误重试、状态持久化等。模型本身只是无状态的下一 token 预测器，真正让它“像一个 Agent”运行的正是 harness。pi、hermes 这类开源方案提供了开箱即用的实现，但也固定了工作方式；自建 harness 意味着你可以完全控制何时压缩上下文、如何注入元数据、工具异常如何回退等细节，代价是要亲手处理大量边界情况。作者所说“衍生出独特解法”，本质上是因为理解了 harness 的每一层，才能在 proxy 层插入内容清洗、历史改写、钩子等自定义逻辑。

新手该记住的底层逻辑

整份清单其实指向同一个建议：从底层学起，升级更快；同时尽早让 Qwen 接入在线工具，让它能自己做研究、解决问题。作者强调这些技巧只是他摸索出的一部分，还有更多留待后续分享。他也在文末说明这篇帖子是 100% 人工撰写（他自称在论坛/DeviantArt 社区活跃二十多年，习惯用 Ctrl+B/I/U 写加粗格式），并附上了“证据”，原因是这类结构化长文常被误判为 AI 生成。

对于刚接触开源模型的用户来说，这十条不是孤立的技巧，而是一条自下而上的能力建设路线：先能造工具，再让工具循环协作，最后把模型管理、感知与记忆串成一套属于自己的工作系统。

（据 Reddit 用户 Grunge 的分享整理）