我经常使用remote: true
个链接。在大多数情况下,回复可以是js
或html
,因此搜索操作系统不会导致问题
但是一些链接,纯粹是js响应,并且没有HTML响应(导致异常和错误,其中包括监控工具,电子邮件,警报等)
我如何设置链接以便搜索机器人(谷歌,bing,其他抓取工具)不会尝试?
或者 - 我应该返回一种响应类型,以便抓取工具知道不会返回该网址吗?
答案 0 :(得分:1)
rel="nofollow"
是您可以放在链接上的内容。这应该可以防止像google这样的机器人抓取它们https://support.google.com/webmasters/answer/96569?hl=en