我使用谷歌网站管理员工具"获取谷歌",但我收到回复"部分"因为有些资源被阻止了。 当我检查结果时,我可以看到Googlebot无法获得此页面的所有资源。我有一个包含所有文件的列表,优先级高是所有图像形成谷歌地图。 正如您在此屏幕截图中看到的那样https://cdn.pbrd.co/images/12opwvUd.png 有没有办法避免这种情况?
我的robots.txt是非常基本的,所以我认为这不是我的robots.txt的问题:
User-agent: *
Disallow: /cgi-bin/
Disallow: /sass/
任何建议或建议?
答案 0 :(得分:1)
Google地图服务器阻止了这些请求。不是你的服务器。您可以通过查看Google Maps robots.txt看到此信息: https://maps.googleapis.com/robots.txt
猜测Google并不认为地图数据是您网页的重要组成部分,值得索引。它可能会浪费大量时间来抓取加载到其他网站上的Google地图。
这是正常的,并且不会阻止Google从您的网站索引您的内容。
如果Fetch As Google更好地解释这一点会更好 - 特别是因为这两种产品都来自Google!但另一方面,为什么它应该优先处理其他提供资源但又不想被抓取的网站。