待验证50% 置信观点精确时间
以往基于用户提示的可控性测试可能系统性地低估了模型的可控性能力。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
推理模型能控制思维链：关键在自我指令而非用户提示
rss2026/10/16
涉及实体
相关事实
待验证被篡改的模型权重可能被植入后门，在特定触发条件下产生预设错误输出，且极难通过常规测试检测77% 相似待验证小模型在分布内高性能的同时存在分布外脆弱性，一旦推理时的工具描述措辞、参数命名或用户查询风格偏离训练集，成功率可能显著下滑75% 相似已验证漂移检测存在权衡：阈值设置过于敏感会导致频繁误报和不必要的重训，设置过于宽松则可能让模型性能在无感知中持续退化74% 相似待验证研究表明模型在处理约束性指令时的准确率显著低于处理生成性指令，这被称为'约束遵循缺陷'74% 相似待验证识别过拟合的信号包括：策略参数越多越好、回测结果对参数微小变化极其敏感、策略在样本外测试中表现断崖式下跌、交易次数过少导致统计显著性不足。74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1066008API
curl https://kongchang.com/api/v1/knowledge/claims/1066008MCP
get_claim(id=1066008)