待验证50% 置信观点精确时间

AI安全研究者Ajeya Cotra认为下一代大模型的训练基础设施可能面临成千上万个'极度超人类'级别AI黑客的持续攻击

1

来源数

50%

置信度

长期有效

时效性

2026/9/10

首次发现

来源

AI训练设施面临超人类黑客威胁：史无前例的网络攻击风险

涉及实体

Ajeya Cotraperson OpenAIcompany Anthropiccompany

相关事实

待验证AI训练数据主要来源于互联网，因此对恐怖的诠释更偏向当代网络流行文化中的恐怖美学71% 相似已验证AI对齐研究面临的核心技术挑战包括奖励黑客、目标泛化失败、欺骗性对齐和可扩展监督问题70% 相似待验证生成式AI的普及使网络攻击门槛降低：大语言模型可在数秒内生成高度定制化的钓鱼邮件，AI工具可辅助分析开源代码漏洞并自动生成可利用攻击代码70% 相似待验证敏感信息传入AI上下文后存在多个潜在风险面：日志留存、模型训练数据混入，以及若AI被授权网络访问时可能的外发行为70% 相似已验证AI编码代理一次完整的任务执行可能涉及数万甚至数十万token的消耗70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/891403

API

curl https://kongchang.com/api/v1/knowledge/claims/891403

MCP

get_claim(id=891403)