待验证50% 置信观点精确时间
robots.txt 和 sitemap.xml 作为网站向机器暴露元信息的早期实践，可被视为 WebMCP 的精神前身
1
来源数
50%
置信度
长期有效
时效性
2026/8/28
首次发现
来源
涉及实体
相关事实
待验证Googlebot 通过遵循各网站 robots.txt 协议决定可抓取的页面范围，robots.txt 是存放于网站根目录、用于向爬虫声明可抓取或屏蔽页面的文本文件75% 相似部分验证robots.txt is a plain text file placed in a website's root directory that tells web crawlers which pages can be crawled and which should be avoided70% 相似待验证谷歌将WebMCP有望成为AI时代的行业标准，类似于AI时代的robots.txt70% 相似待验证2024年兴起的llms.txt提案参照robots.txt惯例，以纯文本Markdown格式在网站根目录提供项目说明帮助LLM建立认知69% 相似待验证llms.txt是一个新兴的网站标准提案，类似于robots.txt但专门面向AI爬虫，采用Markdown格式书写68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/813313API
curl https://kongchang.com/api/v1/knowledge/claims/813313MCP
get_claim(id=813313)