ConceptMutual Information
互信息
互信息是信息论中衡量两个随机变量之间统计依赖程度的度量，反映知道一个变量后对另一个变量不确定性的平均减少量，以比特为单位
Timeline (last 90 days)
Oct 7
MPE用条件概率和预测准确率来表述，与经典信息论方法（如互信息、超额熵）形成互补
Unverified50%
Oct 7
超额熵定义为过去与未来之间的互信息，以比特为单位衡量过去中对预测未来有用的信息量
Unverified50%
Aug 23
互信息定义为I(X;Y) = H(X) + H(Y) - H(X,Y)，度量两个变量间的总依赖关系（包括线性和非线性），为零当且仅当两变量统计独立
Unverified50%