已验证65% 置信事实精确时间
robots.txt是1994年由网络机器人排除标准（REP）确立的行业惯例协议，并非强制性法律规定，但谷歌、百度等主流搜索引擎均严格遵守
3
来源数
65%
置信度
长期有效
时效性
2026/7/8
首次发现
来源
零基础Python爬虫入门：工作原理、核心流程与法律红线详解
bilibiliPyCharm安装激活教程2026/7/4
相关事实
待验证Googlebot 通过遵循各网站 robots.txt 协议决定可抓取的页面范围，robots.txt 是存放于网站根目录、用于向爬虫声明可抓取或屏蔽页面的文本文件73% 相似待验证robots.txt的RFC规范草案直到2022年才由Google提交72% 相似已验证robots.txt协议由网络先驱Martijn Koster于1994年提出，是一个放置于网站根目录的纯文本文件72% 相似部分验证robots.txt is a plain text file placed in a website's root directory that tells web crawlers which pages can be crawled and which should be avoided71% 相似待验证谷歌将WebMCP有望成为AI时代的行业标准，类似于AI时代的robots.txt60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/263868API
curl https://kongchang.com/api/v1/knowledge/claims/263868MCP
get_claim(id=263868)