已验证65% 置信事实精确时间
Googlebot 通过遵循各网站 robots.txt 协议决定可抓取的页面范围，robots.txt 是存放于网站根目录、用于向爬虫声明可抓取或屏蔽页面的文本文件
3
来源数
65%
置信度
长期有效
时效性
2026/7/11
首次发现
来源
相关事实
已验证robots.txt is a plain text file placed in a website's root directory that tells web crawlers which pages can be crawled and which should be avoided84% 相似待验证抓取是Googlebot实际请求该URL并下载内容77% 相似待验证Googlebot 会遵循 HTTP 响应头中的 Cache-Control 和 Last-Modified 字段，对未变更页面实施增量抓取策略77% 相似待验证谷歌推出了 googlebot 系列指令扩展，部分平台支持 robots meta 标签中的 noindex、nosnippet 等值76% 相似待验证robots.txt 是权限控制，告诉爬虫哪些能爬哪些不能爬；llms.txt 是内容导航，主动向模型推荐值得阅读的核心内容76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/486765API
curl https://kongchang.com/api/v1/knowledge/claims/486765MCP
get_claim(id=486765)