香农信息论

由Claude Shannon创立的数学理论，研究信息的量化、存储和通信，核心概念包括熵、互信息、信道容量和率失真理论，是现代通信与压缩技术的理论基础