我有一个包含.CSV文件的.zip文件的网址。
我正在编写一个Java应用程序,需要下载.zip文件并访问.zip中的CSV文件,并使用Apache Commons CSV在CSVRecords列表中解析它们。我不想将任何文件写入磁盘,因为这是一种性能浪费。
这是我到目前为止(我现在省略了所有错误处理,它只是一个POC):
URL url = new URL(myURLString);
InputStream input = url.openStream();
ZipInputStream zipIn = new ZipInputStream(input);
ZipEntry entry;
while((entry = zipIn.getNextEntry()) != null) {
InputStreamReader isr = new InputStreamReader(zipIn);
CSVParser csv = new CSVParser(isr, CSVFormat.DEFAULT);
List<CSVRecord> records = csv.getRecords(); <----- THIS IS WHERE IT HANGS!
}
出于某种原因,当CSVParser尝试读取文件时,我无法弄清楚它为什么会挂起。非常感谢任何帮助!
P.S。:如果不是拉链,我可以读取CSV就好了:
URL url = new URL(myURLString);
InputStream input = url.openStream();
InputStreamReader reader= new InputStreamReader(input );
CSVParser csv = new CSVParser(reader, CSVFormat.DEFAULT);
List<CSVRecord> records = csv.getRecords();
答案 0 :(得分:0)
也许尝试使用不同的解析器。使用univocity-parsers可能会报告处理文件的任何错误。
只需更改为:
URL url = new URL(myURLString);
InputStream input = url.openStream();
ZipInputStream zipIn = new ZipInputStream(input);
ZipEntry entry;
//configure the parser to detect the CSV format automatically
CsvParserSettings parserSettings = new CsvParserSettings();
parserSettings.detectFormatAutomatically();
//use this if the files are small (less than 50mb each)
//parserSettings.setReadInputOnSeparateThread(false);
CsvParser csv = new CsvParser(parserSettings);
while((entry = zipIn.getNextEntry()) != null) {
InputStreamReader isr = new InputStreamReader(zipIn);
List<Record> records = csv.parseAllRecords(isr);
}
希望它有所帮助。
免责声明:我是这个图书馆的作者。它是开源和免费的(Apache 2.0许可证)
答案 1 :(得分:0)
我已经编写了一个支持您的用例的库unzip-csv。它甚至可以解压缩存档中的特定文件(下载段),并且还支持多线程工作器。