待验证50% 置信事实精确时间

模型能否遵循人类指令（instruction following）是可控性的基础指标之一

1

来源数

50%

置信度

长期有效

时效性

2026/9/29

首次发现

来源

OpenAI因安全隐患弃用某模型：不听指令成致命伤

涉及实体

instruction followingconcept

相关事实

已验证Human-in-the-Loop概念源自控制论和机器学习领域，最初指人类在模型训练过程中提供反馈以改善模型性能75% 相似待验证监督微调训练模型模仿人类标注的正确答案，而强化学习微调让模型通过试错学习最优策略73% 相似待验证对齐研究的目标是确保模型的目标与行为符合人类意图，避免误导性输出或价值观偏离73% 相似待验证研究者尝试通过指令微调（Instruction Tuning）和基于人类反馈的强化学习（RLHF）改善模型的语用理解，但本质上是在统计模型上叠加启发式规则70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/957889

API

curl https://kongchang.com/api/v1/knowledge/claims/957889

MCP

get_claim(id=957889)