阻止 Googlebot 访问某个网站会直接影响 Googlebot 抓取该网站的内容并将其编入索引,还可能导致该网站在 Google 搜索结果中的排名下降。遗憾的是,许多网站所有者无意间阻止了 Googlebot 访问他们的网站,而且完全不知情,因为 Googlebot 需要访问网站才能检索并遵守其 robots.txt 文件中的指令。
Google 检测到这个问题后,可能会通知您 Googlebot 已被阻止。
您可以在“索引涵盖范围”报告中查看您的网站上被阻止的所有网页,也可以使用网址检查工具测试特定网页。