已过期60% 置信事件精确时间
2024年《连线》和《福布斯》披露Perplexity的爬虫存在绕过robots.txt协议、抓取付费墙内容等行为
2
来源数
60%
置信度
中期 (~90 天)
时效性
2026/7/19
首次发现
此条事实已过期，仅作历史留存，不再代表当前状态
有效期至：2026/10/17(已过期)
来源
相关事实
待验证robots.txt 是权限控制，告诉爬虫哪些能爬哪些不能爬；llms.txt 是内容导航，主动向模型推荐值得阅读的核心内容64% 相似已验证Googlebot 通过遵循各网站 robots.txt 协议决定可抓取的页面范围，robots.txt 是存放于网站根目录、用于向爬虫声明可抓取或屏蔽页面的文本文件61% 相似待验证许多托管平台或模板生成的默认robots.txt会一刀切地Disallow所有爬虫，导致内容对Googlebot可见却对AI引擎完全隐形60% 相似已验证robots.txt is a plain text file placed in a website's root directory that tells web crawlers which pages can be crawled and which should be avoided59% 相似待验证robots.txt 和 sitemap.xml 作为网站向机器暴露元信息的早期实践，可被视为 WebMCP 的精神前身59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/560929API
curl https://kongchang.com/api/v1/knowledge/claims/560929MCP
get_claim(id=560929)