共 2 篇相关文章
研究者发现向OpenAI和Anthropic模型提供deep_think工具时，厂商严格隐藏的思维链(CoT)出现意外泄露。本文分析泄露的技术原因、工具调用绕过内容过滤的机制，以及对AI安全、透明度和可解释性研究的深层启示。
深入分析思维链（CoT）监控在AI安全中的局限性，揭示推理过程与真实计算脱节、优化压力导致失真等核心问题，并探讨多层防御策略与忠实性保障的实践方向。
