不知怎的,我们的一个批次昨晚失败了,原本生成的文件大小为500mb,其中有大约500,000条记录(行)。
奇怪的是,.csv文件的文件大小是否有硬限制?
据我所知,Excel应用程序有6万行硬限制,但那就是开放。
答案 0 :(得分:6)
根据您处理CSV文件的方式,您可能会遇到包含大文件的内存和/或CPU瓶颈。
此外,在32位Linux系统上,存在2GB的文件大小限制,这将限制您的最大可用CSV大小,无论您的CPU功率和内存如何。话虽如此,那么大的CSV文件是一个好兆头,你应该考虑一个更有效和更强大的解决方案来处理你的数据,如数据库系统。
答案 1 :(得分:5)
文件系统上任何文件的最大文件大小由文件系统本身决定 - 而不是由文件类型或文件名后缀决定。所以答案是否定的。
但是,正如您所说,您用于处理文件的应用程序可能存在限制。