如果我在S3上有一个JSON格式的1GB文件。我需要一个具有1GB以上内存的lambda函数来一次加载所有文件吗?
我想用lambda转换它,然后把它放到一个dynamodb表中。
许多文件的json格式为:
[
{
//data
},{
// Data again
}
]
所以这是一个数据项数组,将使用Golang加载。另一种选择是将大文件拆分为100MB文件,例如,我有大约100个文件,因为有许多1GB文件。不确定现在最好的解决方案,这只会在初始迁移时发生一次。