前几天我为我的网站设置了robots.txt,你可以在下面找到:
user-agent: *
Allow: /$
Disallow: /
现在我在Google网站管理员中提交我的站点地图时遇到了一些问题:
我们在尝试访问您的站点地图时遇到错误。请确保您的站点地图符合我们的指南,并且可以在您提供的位置访问,然后重新提交。
我得到了这个回复并得到了:
受robots.txt限制的网址
现在我该怎么做才能在网站管理员中提交我的站点地图?
答案 0 :(得分:1)
您的robots.txt禁止访问除根(/
以外的任何网址,例如:http://example.com/
)。因此,机器人(根据您的robots.txt)不允许抓取您的站点地图。
您可以添加另一条Allow
行(如下所示),但一般情况下,如果您禁止抓取除主页之外的所有网页,则可能没有任何意义。
User-agent: *
Allow: /$
Allow: /sitemap.xml$
Disallow: /
(我删除了空行,因为它们不允许在记录中。)