robots.txt并从单独的域提供图像

时间:2011-09-27 12:51:44

标签: html robots.txt

我正在尝试查看域A上设置的robots.txt文件是否仍然适用于从域B提供的图片,但实际显示在域A上。

示例:

www.example.com页面的某处,有一个:

<img src="http://img.example.com/images/myimage.jpg" />`

www.example.com/robots.txt中,它说:

User-agent: *
Disallow: /images/

因此,当蜘蛛点击www.example.com并看到图像是从img.example.com提供的时候,它会将其编入索引吗?

1 个答案:

答案 0 :(得分:2)

robots.txt仅适用于它实际存在的主机名。