存储/检索大量数据的最佳/最快方法?

时间:2021-07-21 13:47:44

标签: javascript node.js database csv

我有大约 1000 个 CSV 文件,每个文件平均有 20000 条记录,其中包含需要在地图上显示的坐标。

在客户端数据的帮助下,我可以将其缩小到大约 12 个需要解析的 CSV 文件。然后我需要检查每条记录,看看它是否应该被返回和呈现。

我能够在大约 10-20 秒内实现这一点,这是不可接受的。理想情况下,此功能能够每隔几秒钟完成一次,以保持 UX 流畅。

我曾考虑过在构建时解析数据并将其放入数据库中,但我不知道这是否会有很大的不同。

目前使用 node js 后端。

如果给你这个任务,你会怎么做?

谢谢。

1 个答案:

答案 0 :(得分:1)

数据多久更改一次?如果它是静态的,那么您在构建期间做事的想法确实会大大提高性能。

我会在构建时间(第一次运行时)之后执行此操作,并将所有其他请求的结果缓存到 javascript 对象或数组中。

如果数据发生变化,你可以每隔一段时间重新运行你的解析代码,检查变化,并重新缓存新的结果,这样当用户请求页面时,所有的辛苦工作都已经缓存了。

您当然不想逐个请求地重新运行这种密集型代码。