标签: robots.txt
如何阻止搜索引擎索引脚本网址,例如:
domain.tld /?[无论在这里]
的robots.txt
User-agent: * Disallow: /?
确实有用。
但仍允许对主页进行索引。
答案 0 :(得分:0)
使用网址编码的“?” (%3D)
%3D
User-agent: * Disallow: /%3D
来源:http://www.robotstxt.org/norobots-rfc.txt