使用语言代码禁止robots.txt中的子目录

时间:2013-09-04 07:21:05

标签: robots.txt subdirectory lcid

我们的网站已翻译成大约15种语言,我们的编辑也会定期参与其中。

我们的网址构建如下:

SiteName.Company.com/ {LCID} / Folder1中/ FOLDER2 /

我们公司希望隐藏搜索引擎中的子文件夹/页面。

LCID可以是从EN-US到ZH-HANS的任何东西。我正在寻找一种解决方案,我们不必每次添加新语言时都更新机器人文件。

我可以制作通配符条目或过滤掉单个foldername而不管它的路径吗?

IE:companyinfo.no​​kia.com/en-us/aboutus/darknews/ 我希望谷歌抓住所有东西,但是黑暗新闻和下行(所以/ darknews / ELOPSellsOut或/ darknews / 3210revival)

这可能吗?

1 个答案:

答案 0 :(得分:4)

您可以使用通配符执行此操作:

User-agent: *
Disallow: /*/darknews/

请注意,并非所有机器人都支持通配符。这适用于Googlebot和Bingbot,但它不适用于其他许多人。