处理远程:真正的链接和搜索机器人

时间:2014-12-03 12:03:47

标签: ajax ruby-on-rails-4 bots ujs google-crawlers

我经常使用remote: true个链接。在大多数情况下,回复可以是jshtml,因此搜索操作系统不会导致问题

但是一些链接,纯粹是js响应,并且没有HTML响应(导致异常和错误,其中包括监控工具,电子邮件,警报等)

我如何设置链接以便搜索机器人(谷歌,bing,其他抓取工具)不会尝试?

或者 - 我应该返回一种响应类型,以便抓取工具知道不会返回该网址吗?

1 个答案:

答案 0 :(得分:1)

rel="nofollow"是您可以放在链接上的内容。这应该可以防止像google这样的机器人抓取它们https://support.google.com/webmasters/answer/96569?hl=en