这里有两组条件,我想阻止所有网址/search/jobdescription?
和search/jobdescription/
1)http://<--sitename-->/search/jobdescription?id=0154613&css=a&act=a
2)http://<--sitename-->/search/jobdescription/id/0154613/css/a/act/a
如何阻止robot.txt文件中的两个出现。
由于
答案 0 :(得分:2)
简单如下:
User-agent: *
Disallow: /search/jobdescription
答案 1 :(得分:0)
您还可以使用X-Robots-Tag HTTP header来阻止编制索引。