表征分析

AI安全领域的一种技术手段，通过检查模型内部神经元的激活模式、注意力分布或隐层表示来判断模型是否理解了某些危险概念，即使模型没有在输出中表现出来。