Noindex,nofollow - 将它们放在HTTP响应中吗?

时间:2014-01-30 12:24:05

标签: http httprequest search-engine robots.txt

我认为问题的标题说明了一切 - 在开发和部署测试版时,我应该放

X-Robots-Tag: noindex, nofollow
HTTP响应中的

<meta name="robots" content="noindex, nofollow">

在每个页面的<head></head>部分?

2 个答案:

答案 0 :(得分:1)

X-Robots-Tag标头和robots元标记与支持它们的任何机器人具有完全相同的含义。机器人元标记是一个更老的标准。 X-Robots-Tag标题后来被引入作为robots meta的替代方案,适用于控制服务器配置但不控制站点代码的网站管理员。

唯一的区别是X-Robots-Tag标头不像机器人元标记那样受到广泛支持。如果您只关心主要搜索引擎,那么任何一个都可以,但是如果您需要它来处理旧版网络漫游机,那么元标记是更好的选择。

请注意,这些都不会阻止机器人从您的网站读取页面,它们只是告诉机器人不要索引任何内容或跟随任何链接。如果您想要阻止网络漫游器请求任何网页,您可以考虑使用robots.txt。

答案 1 :(得分:0)

META标签应该能够很好地为您完成。所有大型搜索引擎都会读取具有机器人名称和NOINDEX,NOFOLLOW内容的元标记。