Qwen3

Python 侧单提示 model.generate 在 32K 上下文下对 Llama 和 Qwen3 模型提速最高 2.7 倍；bitsandbytes 4-bit 模型一次生成 2 到 4 个提示时，在某些 NVIDIA GPU 上提速最高 2.8 倍。

论文在两个 Qwen3 学生模型、六个数学推理基准上验证了 CriticOPD 的效果，结果显示其在 OPD 基础上带来稳定提升

Latent Compaction 在 Qwen3 和 MiniCPM5 上均取得检索增益，展现出跨模型家族迁移能力。

工具调用解析器应使用 --tool-call-parser qwen3_xml 而非 hermes；Qwen3 输出原生 XML 工具格式，用错解析器会得到原始 <tool_call> 文本和 tool_calls: null，导致 agent 集成静默失效。

该仓库基于论文《The Pain Axis: LLMs Represent Self-Directed Harm and Act on It》，使用小参数开源模型（Qwen3、Llama 3.2、Phi-4-mini）进行实验。

在数学任务中，模型写出推理步骤时正确率为79%，只给出裸数字时正确率仅11%。

格式行直接决定模型展示推理过程的频率：'Answer with the number only'导致37%的回复展示推理，朴素版本为27%，华丽版本仅8%。

在一项覆盖8个本地模型、超过5000次调用的测试中，提示词的措辞风格（朴素/正常/华丽）对非数学任务的正确率几乎没有影响，8B及以上模型的差异不超过4个百分点。

在4B及以下的模型上，正常风格的提示词得分最高，朴素和华丽两种风格都掉了约8分，但所有置信区间跨越零，差异无法被严格证明为显著。

测试覆盖8个本地模型：Qwen3的0.6B、1.7B、4B、8B、14B，以及Gemma3的1B、4B、12B，全部通过Ollama部署且关闭思考模式。