如何讀取多個csv和合並

我有39個csv文件有很多內存大小。我想通過Java加載這個文件並設置爲一個變量。下面的段落是我的編碼，適用於小尺寸文件，但不適用於大尺寸文件。文件大小通常在100mb到800mb左右。我想在目錄中加載39個文件，並將它們放入一個2d數組中。如何讀取多個csv和合並

public static String readCSV(File csvFile) { 
    BufferedReader bufferedReader = null; 
    StringBuffer stringBuffer = new StringBuffer(); 

    try { 
     bufferedReader = new BufferedReader(new FileReader(csvFile)); 
    } catch (FileNotFoundException e) { 
     e.printStackTrace(); 
    } 

    try { 
     String temp = null; 
     while((temp = bufferedReader.readLine()) != null) { 
      stringBuffer.append(temp+","); // temp 에 저장되어있는 한 줄을 더한다. 
     } 

     System.out.println(stringBuffer); 
    } catch (IOException e) { 
     e.printStackTrace(); 
    } 

    // -10,-9,-8,-7,-6,-5,-4,-3,-2,-1,0,,,,,,,,,,1,2,3,4,5,6,7,8,9,10, 반환 
    return stringBuffer.toString(); 
} 

public static String[] parse(String str) { 
    String[] strArr = str.split(","); // 쉼표가 1개인 것을 기준으로 나누어서 배열에 저장 

    return strArr; 
} 

public static void main(String[] args) throws IOException { 

    //mergeCsvFiles("sample", 4, "D:\\sample_folder\\" + "merge_file" + ".csv"); 


    String str = readCSV(new File("D:/sample_folder/sample1.csv")); 
    String[] strArr = parse(str); // String 배열에 차곡차곡 담겨서 나온다. 
    int varNumber = 45; 
    int rowNumber = strArr.length/varNumber; 

    String[][] Array2D = new String[varNumber][rowNumber]; 
    for(int j=0;j<varNumber;j++) 
    { 
     for(int i=0; i<rowNumber;i++) 
      { 
       String k = strArr[i*varNumber+j]; 
         Array2D[j][i]= k; 
     } 
    }      //2D array 배열을 만들기  

    //String[][] naArray2D=removeNA(Array2D,rowNumber,varNumber); //NA 포함한 행 지우기 





//  /* 제대로 제거 됐는지 확인하는 코드 
    for(int i=0;i<varNumber;i++){ 
     for(int j=0;j<16;j++){ 
          System.out.println(Array2D[i][j]); 
     } 
         System.out.println("**********************NA제거&2차원 배열**********************"); 
    }   
//  */ 

    } 
}

來源

2016-12-02 kimHS

隨着你提的文件大小，你要麼要容易run out of memory in the JVM。

這是可能是爲什麼你最大的800 MB的文件沒有加載到內存中。您不僅將800MB加載到內存中，而且還會增加您正在使用的陣列s的開銷。換句話說，你使用的是1600MB + all of the extra overhead cost of each array, which becomes sizeable。

我敢打賭，假設文件格式在這兩種情況下都是完美的，那麼你超出了內存限制。雖然我無法確認，因爲我不知道您的JVM，內存消耗，也沒有所需的資產來確定這一點，但由您決定是否是這種情況。

此外，我不知道 - 也許我正在閱讀你的代碼，但它似乎並沒有做我認爲你想要做的事情。也許我錯了，我不知道究竟是你想做什麼。

來源

2016-12-02 04:18:02 dddJewelsbbb

如何讀取多個csv和合並

回答

相關問題