Unverified50% confidenceOpinionExact time
安全对齐本质是在模型概率分布上施加偏置，而非从根本上消除有害能力
1
Sources
50%
Confidence
Long-term
Relevance
7/11/2026
First Seen
Sources
博科圣地滥用前沿AI：恐怖组织的技术武器化与治理困境
hackernewshackernews7/10/2026
Related Claims
Unverified漏洞数量激增并不必然意味着模型更不安全，可能是审查强度提升带来的统计偏差75% similarUnverified当恶意方占比接近或超过 1/3 时，鲁棒聚合算法理论上的安全保证将不复存在73% similarUnverified贝叶斯方法的可信区间可以被直接解释为参数落在此范围内的概率，提供比频率学派置信区间更直观的不确定性量化70% similarUnverified研究者发现只需微调模型的少量参数就能移除安全对齐（去对齐攻击），且某些越狱提示可在不同模型之间迁移70% similarUnverified不同厂商在RLHF阶段对安全性与有用性的权重取舍不同，过于强调规避风险会使模型给出保守、模糊、附带免责声明的回答70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/487610API
curl https://kongchang.com/api/v1/knowledge/claims/487610MCP
get_claim(id=487610)