其他
模型对齐
核心事实
时间轴 (近 90 天)
10月19日
模型对齐与代理治理是互补而非替代关系：对齐减少“善意代理出错”的概率，而身份管理、最小权限和实时监控则限制代理一旦偏离预期时造成的实际损害范围。
待验证50%
10月18日
经验回放、对手建模或策略正则化等方法往往假设非平稳性是有界的或可预测的。
待验证50%
10月2日
对AI模型进行压力测试是红队测试和模型对齐研究的重要组成部分
待验证50%
9月29日
模型能否遵循人类指令（instruction following）是可控性的基础指标之一
待验证50%
9月13日
模型对齐（alignment）指的是让模型的行为与人类意图和价值保持一致
已验证75%
9月7日
对齐（Alignment）是当前AI安全领域最核心的研究方向之一，目标是让大语言模型的行为符合人类意图和价值观
待验证50%
8月31日
对齐（alignment）是指确保AI系统的行为与人类意图和价值观保持一致，是AI安全领域的核心议题
已验证90%
全部知识事实 (7)
已验证
对齐（alignment）是指确保AI系统的行为与人类意图和价值观保持一致，是AI安全领域的核心议题
90%已验证模型对齐（alignment）指的是让模型的行为与人类意图和价值保持一致
75%待验证模型对齐与代理治理是互补而非替代关系：对齐减少“善意代理出错”的概率，而身份管理、最小权限和实时监控则限制代理一旦偏离预期时造成的实际损害范围。
50%待验证经验回放、对手建模或策略正则化等方法往往假设非平稳性是有界的或可预测的。
50%待验证对AI模型进行压力测试是红队测试和模型对齐研究的重要组成部分
50%待验证模型能否遵循人类指令（instruction following）是可控性的基础指标之一
50%待验证对齐（Alignment）是当前AI安全领域最核心的研究方向之一，目标是让大语言模型的行为符合人类意图和价值观
50%