Facebook没有抓取我的网站

时间:2011-12-31 13:51:11

标签: facebook user-agent bots web-crawler

当我将我的网站链接发布到Facebook时,它现在显示缩略图,并显示我旧网站的标题。我刚刚在我的网站上添加了opengraph代码,但这没有帮助。当我在facebook调试中检查我的网站时,它显示响应代码:403。我想这意味着我的网站阻止了facebook机器人,但我不知道这是怎么回事。最近一切都很好。如果是这种情况,你能告诉我如何取消阻止它......

http://developers.facebook.com/tools/debug/og/object?q=http%3A%2F%2Fracunovodstvo.com.ba

1 个答案:

答案 0 :(得分:1)

我做了一些挖掘和接缝,因为Facebook实际上得到了403响应。这是我做的:

$ nc -l -p 8000 > fbbot-request
listening on [any] 8000 ...

http://mydebughost:8000上运行调试器,我得到:

connect to [78.108.54.9] from out-fc245.tfbnw.net [66.220.153.245] 48731
$ cat fbbot-request 
GET / HTTP/1.1
User-Agent: facebookexternalhit/1.1 (+http://www.facebook.com/externalhit_uatext.php)
Host: mydebughost:8000
Accept: */*
Accept-Encoding: deflate, gzip
Range: bytes=0-40960
Connection: close

现在将Host标题更改为racunovodstvo.com.ba并执行请求:

$ cat fbbot-request | nc racunovodstvo.com.ba 80 | head
HTTP/1.1 403 Forbidden
Date: Sat, 31 Dec 2011 14:29:48 GMT
Server: Apache
Last-Modified: Mon, 02 May 2011 07:52:14 GMT
ETag: "444007-1094-4dbe62ae"
Accept-Ranges: bytes
Content-Length: 4244
Connection: close
Content-Type: text/html

在网页服务器被Range: bytes=0-40960标题弄糊涂之后,又进行了一些挖掘。