标签: seo robots.txt
我有一组网址以特定字词结尾,例如a/b/foo,c/d/foo,e/f/g/foo。
a/b/foo
c/d/foo
e/f/g/foo
是否可以使用/*/foo或*/foo等通配符,并限制所有网址在foo中以索引结尾。
/*/foo
*/foo
提到here
User-agent: Googlebot Disallow: /*.xls$
将阻止所有.xls文件被编入索引。
在我的案例中,这是一个有效的规则吗?
User-agent: Googlebot Disallow: /*foo$