待验证85% 置信事实精确时间
Major media organizations like The New York Times and Reuters were among the first to block AI crawlers in their robots.txt files
1
来源数
85%
置信度
中期 (~90 天)
时效性
2026/8/2
首次发现
来源
涉及实体
相关事实
部分验证robots.txt is a plain text file placed in a website's root directory that tells web crawlers which pages can be crawled and which should be avoided60% 相似待验证Googlebot 通过遵循各网站 robots.txt 协议决定可抓取的页面范围，robots.txt 是存放于网站根目录、用于向爬虫声明可抓取或屏蔽页面的文本文件59% 相似待验证Google、Adobe等多家公司在推出AI图像功能时都遭遇过类似的隐私争议57% 相似待验证谷歌旗下Waymo与Uber围绕自动驾驶技术展开过由员工跳槽引发的商业秘密诉讼，最终以巨额和解落幕56% 相似已验证robots.txt是1994年由网络机器人排除标准（REP）确立的行业惯例协议，并非强制性法律规定，但谷歌、百度等主流搜索引擎均严格遵守56% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/679742API
curl https://kongchang.com/api/v1/knowledge/claims/679742MCP
get_claim(id=679742)