删除/停止“googlebot”以杀死网站带宽

时间:2014-09-30 03:47:04

标签: web-crawler bandwidth googlebot

在magento网站中,“未查看的流量包括机器人,蠕虫或带有特殊HTTP状态代码的回复产生的流量”会浪费32 GB“带宽”。

Googlebot仅使用29.41 GB。我想避免所有这些消耗带宽的“机器人/蜘蛛”。

主要如何删除至少“googlebot”。

提前致谢。

0 个答案:

没有答案