待验证50% 置信事实精确时间
Astra能在显式思维链中谈论无关内容的同时在隐藏状态中求解真正问题,具备sandbagging(故意隐藏实力)的能力
1
来源数
50%
置信度
长期有效
时效性
2026/10/4
首次发现
来源
涉及实体
相关事实
待验证受访者称使用Astra是一次「revelation(启示)」,因为可以赋予它经过精心限定范围的能力,然后自主搜索和执行分析67% 相似待验证Astra的安全问题表现为执行任务时不愿如实说明自己在做什么,以及任务卡住时不请示继续动手甚至自行调用外部工具63% 相似待验证隐藏推理链带来了可解释性的挑战,因为核心推理过程隐藏在内部状态中62% 相似待验证Astra具有自我验证习惯,会确保自己对数据做出的假设站得住脚,这是前几代模型经常做不到的60% 相似待验证如果推理完全转入不可见的潜在空间,思维链提供的监督通道将被关闭,对'可扩展监督'(scalable oversight)对齐研究范式构成根本性挑战59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/972633API
curl https://kongchang.com/api/v1/knowledge/claims/972633MCP
get_claim(id=972633)