我正在尝试查看域A上设置的robots.txt文件是否仍然适用于从域B提供的图片,但实际显示在域A上。
示例:
在www.example.com
页面的某处,有一个:
<img src="http://img.example.com/images/myimage.jpg" />`
在www.example.com/robots.txt
中,它说:
User-agent: *
Disallow: /images/
因此,当蜘蛛点击www.example.com并看到图像是从img.example.com提供的时候,它会将其编入索引吗?
答案 0 :(得分:2)
robots.txt仅适用于它实际存在的主机名。