Robot.txt允许在域中指定URL

时间:2013-01-30 07:33:48

标签: robots.txt

我想只允许主网址(域名)和http://domain/about,其他网址在搜索谷歌时不可见。示例我的链接如下:

http://example.com
http://example.com/about
http://example.com/other1
http://example.com/other2
http://example.com/other3
http://example.com/other4
http://example.com/other5
http://example.com/other6
and more URL. 

我的问题是robot.txt的内容,我想仅允许http://example.comhttp://example.com/about,我的网站使用wordpress。

感谢。

2 个答案:

答案 0 :(得分:5)

你想要的是:

User-agent: *
Allow: /$
Allow: /about
Disallow: /

$表示url字符串必须在那里结束。因此,它不允许使用/example.com/foo

答案 1 :(得分:0)

User-agent: *
Allow: http://example.com/about
Disallow: /