标签: dynamic sitemap robots.txt
我正在为我的网站设置站点地图,而我所做的是创建一个为站点生成站点地图的端点。
如果我将我的API的网址放在robots.txt上,那么爬虫程序机器人可以访问它并获取站点地图,还是不发送API请求?
robots.txt