标签: robots.txt
是否可以:
User-agent: * Disallow: /apps/abc*/
在robots.txt文件中禁止使用abc123,abc-xyz等?
答案 0 :(得分:1)
引用Wikipedia:
机器人排除标准未在Disallow:语句中提及有关“*”字符的任何内容。 Googlebot和Slurp等一些抓取工具识别包含“*”的字符串,而MSNbot和Teoma则以不同方式对其进行解释。
可以在cited source中找到其他研究。