在我的网站上获取大量不需要的404日志

时间:2012-11-06 16:01:26

标签: asp.net http-status-code-404

从过去几个月开始,我面临着由于请求一些错误的网址而导致404错误的问题。我不知道这些链接来自哪里。在网站上我们没有这样的链接。几个例子是:

有以下链接:

www.abc.com/definition/1333/text/javascript

www.abc.com/undefined

www.abc.com/twitter.json

以上只是样本,我每天使用不同的关键词获得100个。

有没有人遇到同样的问题?

1 个答案:

答案 0 :(得分:2)

如果常规(即人类)访问者无法通过您网站上的链接访问这些位置,则无需担心。

有许多抓取工具在网上搜索可利用的软件。这些抓取工具使用他们知道如果某个应用程序正在运行的URL将从网站跳转到网站。


但是,您应该小心并仔细检查,这样您就不会出现标记错误或类似情况,导致您的访问者访问404.

在责备别人之前,一定要责备自己。查看是否是您的错误的一种方法是开始登录Referer标题(以查看导致404的页面),即使可以轻易伪造,您仍然需要面对足够的排除其中一个的事实。