阻止其他机器人/蜘蛛访问我的网站,但Googlebot bing和yandex除外

时间:2018-08-17 15:09:55

标签: .htaccess web-crawler bots googlebot

除了googlebot,bing和yandex之外,是否可以使用.htaccess阻止漫游器/爬网程序/蜘蛛访问我的网站。

我不在乎其他机器人/蜘蛛的名称。我只允许使用googlebot,bing和yandex。

请搜索其他帖子,但找不到此特定帖子。

0 个答案:

没有答案