举报型智能体

AI对齐研究中的前沿概念，指被赋予识别并上报不当行为能力的AI智能体，旨在让AI在察觉违规、欺骗或有害行为时主动向指定方发出警报