如果我使用Apache 2,我应该如何使用HTTP / 0.9处理Spiders / Web Crawlers?

时间:2012-04-06 20:43:49

标签: seo web-crawler apache2.2

我正在使用Apache 2来提供内容,而Bing Bot正在使用HTTP / 0.9从我的服务器请求不为直接IP主机提供服务的页面。

如果我不知道他们想要哪台主机,但仍然需要它们为我的网站编制索引,我该如何处理?

我目前返回400 Bad Request,但令我感到紧张的是我的网站不会被Bing或Yahoo编入索引。

由于

1 个答案:

答案 0 :(得分:1)

  <已解决] [已解决]:我一直在回复400 Bad Request,Bing / Yahoo已经接受了提示。