如何在robot.txt中允许多个机器人

时间:2015-07-19 17:14:50

标签: bots robots.txt

User-Agent:*
Disallow:/

User-Agent: Googlebot
User-Agent: Googlebot-Mobile
User-Agent: Googlebot-Image
User-Agent: Bingbot
Allow:/

这是否允许所有4个机器人或仅允许Bingbot并禁止所有内容?

修改 我的答案可能对忘记/不知道如何测试robot.txt

的人有用

1 个答案:

答案 0 :(得分:0)

我找到了最好的解决方案, 检查您的Search Console页面并在那里测试他们的机器人。

例如:

https://www.google.com/webmasters/tools/robots-testing-tool

https://webmaster.yandex.com/robots.xml

http://tools.seobook.com/robots-txt/analyzer/