Unverified50% confidenceFactExact time
尼克·博斯特罗姆在2014年出版《超级智能》（Superintelligence），系统分析了控制问题，该书影响了马斯克、盖茨等对AI风险的表态
1
Sources
50%
Confidence
Long-term
Relevance
7/12/2026
First Seen
Sources
重读古德1965：超智能机器与智能爆炸的思想起源
hackernewshackernews7/11/2026
Related Claims
Unverified2021年来自MIT、斯坦福等机构的14位专家（含RSA算法发明者之一Ron Rivest）联合发表论文《Bugs in our Pockets》，论证客户端扫描的核心风险54% similarUnverified2023年研究人员Simon Willison系统性地揭示了间接提示注入的危害，指出模型具备联网搜索或文件读取能力时攻击面急剧扩大54% similarUnverified2023年卡内基梅隆大学与德国CISPA亥姆霍兹信息安全中心的研究团队发表论文，证明当时主流LLM Agent对间接提示注入攻击高度脆弱，成功率超过80%53% similarUnverified2023年研究人员Riley Goodside首次系统性演示了间接提示词注入的危害53% similarUnverified作者最担心的是项目变成'屎山代码'——AI越改越乱，人类无法阅读和维护52% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/490060API
curl https://kongchang.com/api/v1/knowledge/claims/490060MCP
get_claim(id=490060)