如何在robots.txt中使用通配符

时间:2013-02-07 16:29:48

标签: robots.txt

是否可以:

User-agent: *
Disallow: /apps/abc*/

在robots.txt文件中禁止使用abc123,abc-xyz等?

1 个答案:

答案 0 :(得分:1)

引用Wikipedia

  

机器人排除标准未在Disallow:语句中提及有关“*”字符的任何内容。 Googlebot和Slurp等一些抓取工具识别包含“*”的字符串,而MSNbot和Teoma则以不同方式对其进行解释。

可以在cited source中找到其他研究。