待验证50% 置信事实精确时间

2017年Google Brain团队发表的对抗样本研究揭示了深度学习模型的脆弱性，仅需对图像添加人眼不可见的微小扰动就能让最先进的分类器完全失效

1

来源数

50%

置信度

长期有效

时效性

2026/8/13

首次发现

来源

16岁如何规划AI安全职业？从零构建核心能力路线图

相关事实

待验证对一张被神经网络正确分类的图像叠加人眼几乎不可见的微小扰动后，模型输出会以极高置信度发生错误74% 相似待验证基于深度学习的视觉分类模型可识别未被标记过的新内容，覆盖面更广但误报风险显著更高71% 相似待验证Anthropic、DeepMind 等机构的可解释性研究显示，目前只能通过激活分析、注意力可视化等有限手段部分理解模型内部状态68% 相似待验证现有数字孪生脑模型如The Virtual Brain平台因脑干解剖数据精度不足往往将其简化处理66% 相似待验证卡内基梅隆大学研究团队曾展示特定设计的图案可使人脸识别系统完全失效65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/742248

API

curl https://kongchang.com/api/v1/knowledge/claims/742248

MCP

get_claim(id=742248)