robots.txt使用语言排除路径

时间:2014-10-23 07:05:45

标签: web seo robots.txt noindex

如果我想要在我的页面上禁止以下路径: http://www.examplepage.com/en/testing

但不仅是/ en / version,还有/ da /,/ de /等等(你明白了我的意思)。

我如何以最聪明的方式做到这一点?没有为每种语言的相同页面写禁令。

我试过了: 禁止:/ * /测试 和 禁止:/ *测试

但我发现它也不允许其他网页: http://www.examplepage.com/en/news-page/testing等。

它应该只允许我在帖子开头指定的路径。

1 个答案:

答案 0 :(得分:0)

在robots.txt中使用占位符/ RegExp非常有限且不可靠。有关详细信息,请参阅此问题:Regexp for robots.txt

这可能是分别列出所有语言或编写一个输出包含所有规则的列表的脚本的最佳解决方案。