Question

我使用AJAX构建了我的整个站点（实际上它是GWT）。我还实现了Google提出的AJAX抓取功能。然而，在实施之后，我发现Yahoo，Bing和百度都没有实现这个方案！

我想知道是否有办法识别网络客户端是一个搜索机器人。如果是，则会显示我创建的HTML快照。

最好能在APACHE级别识别它们，然后我可以做一个mod_rewrite。但如果我能用PHP或GWT做到这一点，它仍然可以。

Answer 1

因为有很多不同的搜索引擎，所以非常棘手。我想这不可能在一个班轮上完成。如果PHP没问题，我建议使用php_browscap.ini（适用于不同的语言）。例如，这可以与P HPs get_browser()-function一起使用。

然后你可以检查所有不同的浏览器内容，当然还有Bots。

在我自己的代码片段中，我使用以下函数（基于提到的browscap）在我的代码中轻松获取相应的信息：

function _browser($a_browser = false, $a_version = false, $name = false)
{
 $browser_list = 'msie firefox konqueror safari netscape navigator opera mosaic lynx amaya omniweb chrome avant camino flock seamonkey aol mozilla gecko';
 $user_browser = strtolower($_SERVER['HTTP_USER_AGENT']);
 $this_version = $this_browser = '';

 $browser_limit = strlen($user_browser);
 foreach ($this->_w($browser_list) as $row)
 {
     $row = ($a_browser !== false) ? $a_browser : $row;
     $n = stristr($user_browser, $row);
     if (!$n || !empty($this_browser)) continue;

     $this_browser = $row;
     $j = strpos($user_browser, $row) + strlen($row) + 1;
     for (; $j <= $browser_limit; $j++)
     {
         $s = trim(substr($user_browser, $j, 1));
         $this_version .= $s;

         if ($s === '') break;
     }
 }

 if ($a_browser !== false)
 {
     $ret = false;
     if (strtolower($a_browser) == $this_browser)
     {
         $ret = true;

         if ($a_version !== false && !empty($this_version))
         {
             $a_sign = explode(' ', $a_version);
             if (version_compare($this_version, $a_sign[1], $a_sign[0]) === false)
             {
                 $ret = false;
             }
         }
     }

     return $ret;
 }

 //
 $this_platform = '';
 if (strpos($user_browser, 'linux'))
 {
     $this_platform = 'linux';
 }
 elseif (strpos($user_browser, 'macintosh') || strpos($user_browser, 'mac platform x'))
 {
     $this_platform = 'mac';
 }
 else if (strpos($user_browser, 'windows') || strpos($user_browser, 'win32'))
 {
     $this_platform = 'windows';
 }

 if ($name !== false)
 {
     return $this_browser . ' ' . $this_version;
 }

 return array(
     "browser"      => $this_browser,
     "version"      => $this_version,
     "platform"     => $this_platform,
     "useragent"    => $user_browser
 );
 }

function _w($a = '')
{
    if (empty($a)) return array();

    return explode(' ', $a);
}

示例：

/*
// Examples

echo '<pre>';
print_r(_browser()); // return array of browser data

var_dump(_browser('firefox')); // return true if using firefox
var_dump(_browser('msie', '>= 7.0')); // return true if using IE 7.0 or above else false
var_dump(_browser('firefox', '< 3.0.5')); // return true if using below firefox 3.0.5 (can check minor version)
var_dump(_browser(false, false, true)); // return string of name of browser and version

// To check if Gecko browser is used
var_dump(_browser('gecko'));

// version_compared function is used so you can use the same operator syntax
var_dump(_browser('firefox', 'le 1.5'));

echo '</pre>';

Answer 2

要使用Apache，您可以在rewriteRule上使用RewriteCond和%{HTTP_USER_AGENT}。

RewriteCond接受RegExp，所以你必须在那里使用一个模式，它匹配所有这些机器人（你应该找到如何在acme链接的页面上构建模式的信息）。

但要小心：搜索引擎可能会惩罚向机器人和其他客户提供不同内容的网页。

Answer 3

如果您使用PHP，则可以针对搜索引擎用户代理字符串字符串检查$_SERVER['HTTP_USER_AGENT'] - 可在此处找到一些详细信息：http://en.wikipedia.org/wiki/Web_crawler

您还可以使用Firefox插件查看搜索引擎将如何看到您的网页：http://chrispederick.com/work/user-agent-switcher/

如何识别客户端是一个搜索机器人？

3 个答案: