我已经在我的机器上存储了将近4000万条推文及其元数据,功能非常强大(Intel Core i7、32 GB RAM,SSD)。这些推文上的任何搜索查询都会花费太多时间(这是预期的)。那么,如何根据搜索结果的经过时间来提高搜索性能呢?使用快速的内存数据库或数据网格是否可以提高性能?如何将搜索查询的持续时间缩短为几秒钟?
答案 0 :(得分:0)
您可能要查看mongodb中的分片(水平缩放)之类的东西,因为您要处理大量数据。有关更多信息(Docs)
共享减少了每个分片处理的操作数。每 分片随着群集的增长而处理的操作更少。结果, 集群可以水平提高容量和吞吐量。
例如,要插入数据,应用程序仅需要访问 分片负责该记录。
共享可以减少每个服务器需要存储的数据量。 随着群集的增长,每个分片存储的数据更少。
例如,如果数据库的数据集为1 TB,则有4个 分片,则每个分片可能仅容纳256GB数据。如果有40 分片,那么每个分片可能只容纳25GB的数据。