我正在开发一个广泛使用模态对话框的网络应用程序。
对话框通过AJAX加载,HTTP响应只包含HTML的一部分,而不是完整的HTML文档。我不希望搜索引擎在找到这些可公开访问的URL时将其编入索引。
我无法使用元机器人,因为返回的HTML部分没有<head>
。
我希望避免将每个网址添加到robots.txt
,或将所有网址分组到一个公共前缀下,例如/ajax/
。
所以我认为如果没有使用AJAX执行请求,我只能返回400 Bad Request,即不包含X-Requested-With: XMLHttpRequest
标题。
400 Bad Request
是否适合此目的?