Unverified50% confidenceFactExact time
信息瓶颈理论由Tishby等人于1999年提出，并于2017年发展为深度学习的信息论解释框架，主张神经网络训练分为快速拟合和缓慢压缩两个阶段
1
Sources
50%
Confidence
Long-term
Relevance
7/16/2026
First Seen
Sources
Related Claims
Unverified2017年Shwartz-Ziv和Tishby的工作表明深度网络训练存在两个阶段：先拟合数据（增加与输入的互信息），再压缩表征（减少与输入互信息同时保持与输出互信息）77% similarUnverified深度学习中突破性的模型架构与训练技巧多为实践先行、理论解释滞后数年71% similarUnverified2020年代以来出现基于深度学习的侧信道攻击，研究者使用卷积神经网络从功耗轨迹自动提取特征，某些场景下能绕过传统硬件对抗措施68% similarUnverified基于深度学习的代码补全工具TabNine在2018年前后出现，利用循环神经网络预测下一个代码token68% similarUnverified现代深度学习框架PyTorch和TensorFlow将神经网络表示为计算图，通过自动微分（Autograd）逆向计算梯度66% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/533286API
curl https://kongchang.com/api/v1/knowledge/claims/533286MCP
get_claim(id=533286)