Question

我有39个csv文件，它们有很多内存。我想用Java加载这个文件并设置为一个变量。下面的段落是我的编码适用于小尺寸文件，但不适用于大尺寸文件。文件大小通常在100mb到800mb左右。我想在目录中加载39个文件并将它们放入一个2d数组中。

public static String readCSV(File csvFile) {
    BufferedReader bufferedReader = null;
    StringBuffer stringBuffer = new StringBuffer();

    try {
        bufferedReader = new BufferedReader(new FileReader(csvFile));
    } catch (FileNotFoundException e) {
        e.printStackTrace();
    }

    try {
        String temp = null;
        while((temp = bufferedReader.readLine()) != null) {
            stringBuffer.append(temp+","); // temp 에 저장되어있는 한 줄을 더한다.
        }

        System.out.println(stringBuffer);
    } catch (IOException e) {
        e.printStackTrace();
    }

    // -10,-9,-8,-7,-6,-5,-4,-3,-2,-1,0,,,,,,,,,,1,2,3,4,5,6,7,8,9,10, 반환
    return stringBuffer.toString();
}

public static String[] parse(String str) {
    String[] strArr = str.split(","); // 쉼표가 1개인 것을 기준으로 나누어서 배열에 저장

    return strArr; 
}

public static void main(String[] args) throws IOException {

    //mergeCsvFiles("sample", 4, "D:\\sample_folder\\" + "merge_file" + ".csv");


    String str = readCSV(new File("D:/sample_folder/sample1.csv"));
    String[] strArr = parse(str); // String 배열에 차곡차곡 담겨서 나온다.
    int varNumber = 45;
    int rowNumber = strArr.length/varNumber;

    String[][] Array2D = new String[varNumber][rowNumber];
    for(int j=0;j<varNumber;j++)
    {
        for(int i=0; i<rowNumber;i++)   
            {
                String k = strArr[i*varNumber+j];
                        Array2D[j][i]= k;
        }
    }                       //2D array 배열을 만들기      

    //String[][] naArray2D=removeNA(Array2D,rowNumber,varNumber); //NA 포함한 행 지우기





//      /*  제대로 제거 됐는지 확인하는 코드
    for(int i=0;i<varNumber;i++){
        for(int j=0;j<16;j++){
                            System.out.println(Array2D[i][j]);
        }
                        System.out.println("**********************NA제거&2차원 배열**********************");
    }           
//      */

    }
}

Answer 1

根据您提及的文件大小，您可能会run out of memory in the JVM。

这可能是为什么你的800个MB的最大文件没有加载到内存中。您不仅要将800MB加载到内存中，而且还要增加正在使用的阵列 s 的开销。换句话说，您使用的是1600MB + all of the extra overhead cost of each array, which becomes sizeable。

我敢打赌，在两种情况下文件格式都很完美的情况下，你超出了内存限制。虽然我无法确认，因为我不知道您的JVM，您的内存消耗，也没有必要的资产来解决这些问题，但由您来决定是否是这种情况。

另外，我不知道 - 也许我正在读你的代码，但它似乎不会做我认为你想要它做的事情。也许我错了，我不知道完全你想要做什么。

如何读取多个csv并合并

1 个答案: