如何在robot.txt文件中阻止这种URL?

时间:2012-05-10 09:14:44

标签: php url block robots.txt robot

这里有两组条件,我想阻止所有网址/search/jobdescription?search/jobdescription/

1)http://<--sitename-->/search/jobdescription?id=0154613&css=a&act=a

2)http://<--sitename-->/search/jobdescription/id/0154613/css/a/act/a

如何阻止robot.txt文件中的两个出现。

由于

2 个答案:

答案 0 :(得分:2)

简单如下:

User-agent: *
Disallow: /search/jobdescription

答案 1 :(得分:0)

您还可以使用X-Robots-Tag HTTP header来阻止编制索引。