能力护栏

AI厂商为限制模型输出有害内容而设置的技术与策略层面约束机制，通常包括RLHF价值对齐、推理层内容过滤及使用政策法律约束，以防止模型被滥用于攻击或有害场景