我已成功抓取多个具有相同结构的网站。当我打印结果时,它们似乎没问题,现在我想将它全部保存到文件中。
问题只是最后一个被抓取的MyData对象被保存到文件中。
var osmosis = require('osmosis');
var jsonfile = require('jsonfile')
var sitesToHandle = ['site1', 'site2', 'site3', 'site4']
sitesToHandle.forEach((urlToHandle) => {
osmosis.get(urlToHandle)
.find('.productList')
.set({
MyData: [
{
'ID': 'a.number',
'Product': 'a.productname',
'Price': 'a.price',
}
]
})
.data(function(document) {
console.log(document);
var file = 'osmosis.json'
jsonfile.writeFile(file, document)
});
});
答案 0 :(得分:0)
每次迭代都要重写文件。
您必须使用{flag: 'a'}
将数据附加到现有JSON文件:
jsonfile.writeFile(file, document, {flag: 'a'})