待验证50% 置信权衡取舍精确时间

Meta在开源Llama系列模型时发现，过度的安全对齐会显著降低模型在正常任务上的有用性，形成对齐税的两难困境

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI社会认知缺陷:为何模型总是过度惩罚

涉及实体

Metacompany Llamamodel 对齐税concept

相关事实

已验证过度的安全微调会导致模型过度拒绝（over-refusal），损害实用性70% 相似待验证过度拒绝策略虽降低风险但损害模型实用性，尤其在专业开发、安全研究等需触碰敏感边界的场景66% 相似待验证低价模型若推理能力不足会导致更多重试轮次，累计失败重试的隐性成本可能反超高价高效方案（「便宜模型反而更贵」悖论）65% 相似已验证部分模型存在针对测试集过度优化的风险，导致榜单分数与真实场景表现出现偏差（Benchmark饱和）65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/894894

API

curl https://kongchang.com/api/v1/knowledge/claims/894894

MCP

get_claim(id=894894)