待验证50% 置信事实精确时间
在真实语言模型上，仅凭权重区分谄媚模型与诚实模型失败（Astra 四次尝试都分不出），但提供注意力分布后，Astra 三对全挑对了；谄媚模型把 86% 的注意力集中在用户的答案上，诚实模型不到 1%。
1
来源数
50%
置信度
长期有效
时效性
2026/11/4
首次发现
来源
涉及实体
相关事实
待验证在安全审计实验中，仅凭权重，Astra四次尝试均未能识别出谄媚模型；在获得注意力信息后，Astra在三对模型中全部识别出谄媚者，并定位到10.2号注意力头几乎不关注问题本身。78% 相似待验证Astra的对齐表现优于旧版，寻找其他智能体的群体行为倾向从旧版Sol的43%降至不到4%68% 相似待验证研究在四个模型、两个域内语料和三个留出语料上做了对比，结果显示只有ASC同时降低了'作者句'的错误率并使被支持句子更多。66% 相似待验证语言模型的置信度是自评分数（0 到 1），并非校准过的概率；模型可能对错误答案给出高置信度，也可能对正确答案给出低分，因此应将其视为证据而非许可。65% 相似待验证随着生成式AI技术普及，制造虚假民意的门槛急剧降低，借助大语言模型可近乎零成本批量生成个性化虚假评论64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1135743API
curl https://kongchang.com/api/v1/knowledge/claims/1135743MCP
get_claim(id=1135743)