禁用googlebot抓取www

时间:2012-12-04 07:00:01

标签: robots.txt googlebot

我在.htaccess中有www重定向。 因此www.example.com获得301重定向到example.com 但谷歌仍然试图获取www.example.com

我可以禁用googlebot提取www.example.com吗? 例如来自webaster工具或robots.txt?

1 个答案:

答案 0 :(得分:1)

在Google网站站长工具中,您可以设置首选主机名 - 包括或不包含www,但Google不保证这一点。由于您从www到非www有301,Googlebot可能会尊重您的愿望。